我的位置：首页 › 大数据分析-亿信BI › BI-问题求助 › 浮动单元除10000再求和，数值不对 ...

[亿信BI4.1] 浮动单元除10000再求和，数值不对

复制链接 | 收藏本帖

6673

: a1ex 小试身手Lv3

发表于2020-1-17 16:23

悬赏1

已解决

楼主

BI41，如下图，先浮动，然后对其中一个单元数值/10000 后再求和，数值就不对。要是减法也是不对。这是什么问题！

最近看过此主题的会员

最佳答案

: xxxl

发表于2020-1-17 16:23

丨

只看该作者

丨

取消关注该作者的回复

可以尝试更改保留小数位改成保留6位小数位（如果不够可以再加加到保留7、8、9位），再进行计算，计算后的数据再通过显式表达式写left(self.txt,5)截取出来这样的数据

QQ空间微信

10个回答

只看楼主

: a1ex 小试身手Lv3

发表于2020-1-17 16:24

丨

只看该作者

丨

取消关注该作者的回复

沙发

: yangqh 数据老手Lv5

发表于2020-1-17 16:28

丨

只看该作者

丨

取消关注该作者的回复

板凳

浮动出来的交单金额表元显示出来的值，是四舍五入保留两位小数之后的，而合计的表元是各个值四舍五入之前的实际值sum出来，所以会有差异

: a1ex 小试身手Lv3

发表于2020-1-17 16:42

丨

只看该作者

丨

取消关注该作者的回复

地板

yangqh 发表于 2020-1-17 16:28
浮动出来的交单金额表元显示出来的值，是四舍五入保留两位小数之后的，而合计的表元是各个值四舍五入之前的 ...

那这要怎么解决呢？

: yangqh 数据老手Lv5

发表于2020-1-17 16:46

丨

只看该作者

丨

取消关注该作者的回复

a1ex 发表于 2020-1-17 16:42
那这要怎么解决呢？

其实这个不建议处理，因为实际值sum出来的结果才是更准确的

: a1ex 小试身手Lv3

发表于2020-1-17 16:49

丨

只看该作者

丨

取消关注该作者的回复

yangqh 发表于 2020-1-17 16:46
其实这个不建议处理，因为实际值sum出来的结果才是更准确的

朋友，是不能处理吗？别人看表，特别是减法时候，减出来的不对啊，看表人可不管这些

: sunq 初学数据Lv2

发表于2020-1-17 16:54

丨

只看该作者

丨

取消关注该作者的回复

直接sum(TABLE.COL)/10000

: a1ex 小试身手Lv3

发表于2020-1-19 08:26

丨

只看该作者

丨

取消关注该作者的回复

sunq 发表于 2020-1-17 16:54
直接sum(TABLE.COL)/10000

两列/10000，再做相减也会有问题。

: 小亿管理员

发表于2020-2-20 14:40

丨

只看该作者

丨

取消关注该作者的回复

问题是否有得到解决呢？解决之后可以设置最佳答案关帖哟~

: a1ex 小试身手Lv3

发表于2020-3-4 17:09

丨

只看该作者

丨

取消关注该作者的回复

10#

小亿发表于 2020-2-20 14:40
问题是否有得到解决呢？解决之后可以设置最佳答案关帖哟~84.gif

这个问题没有解决

: xxxl 数据领袖Lv6

发表于2020-1-17 16:23

丨

只看该作者

丨

取消关注该作者的回复

11#

登录后可回答问题，请登录或注册

有问题，来提问！

我要发帖