[亿信BI4.1] 浮动单元除10000再求和,数值不对

6592
10

a1ex 小试身手Lv3

发表于2020-1-17 16:23

悬赏1

已解决

楼主
BI41,如下图,先浮动,然后对其中一个单元数值/10000 后再求和,数值就不对。要是减法也是不对。这是什么问题!

最佳答案

xxxl

发表于2020-1-17 16:23

只看该作者

取消 关注该作者的回复

可以尝试更改保留小数位 改成保留6位小数位(如果不够可以再加 加到保留7、8、9位) ,再进行计算,计算后的数据再通过显式表达式写left(self.txt,5)截取出来这样的数据
10个回答

只看楼主

a1ex 小试身手Lv3

发表于2020-1-17 16:24

只看该作者

取消 关注该作者的回复

沙发


yangqh 数据老手Lv5

发表于2020-1-17 16:28

只看该作者

取消 关注该作者的回复

板凳

浮动出来的交单金额表元显示出来的值,是四舍五入保留两位小数之后的,而合计的表元是各个值四舍五入之前的实际值sum出来,所以会有差异

a1ex 小试身手Lv3

发表于2020-1-17 16:42

只看该作者

取消 关注该作者的回复

地板

yangqh 发表于 2020-1-17 16:28
浮动出来的交单金额表元显示出来的值,是四舍五入保留两位小数之后的,而合计的表元是各个值四舍五入之前的 ...

那这要怎么解决呢?

yangqh 数据老手Lv5

发表于2020-1-17 16:46

只看该作者

取消 关注该作者的回复

5#

a1ex 发表于 2020-1-17 16:42
那这要怎么解决呢?

其实这个不建议处理,因为实际值sum出来的结果才是更准确的

a1ex 小试身手Lv3

发表于2020-1-17 16:49

只看该作者

取消 关注该作者的回复

6#

yangqh 发表于 2020-1-17 16:46
其实这个不建议处理,因为实际值sum出来的结果才是更准确的

朋友 ,是不能处理吗?别人看表,特别是减法时候,减出来的不对啊,看表人可不管这些

sunq 初学数据Lv2

发表于2020-1-17 16:54

只看该作者

取消 关注该作者的回复

7#

直接sum(TABLE.COL)/10000

a1ex 小试身手Lv3

发表于2020-1-19 08:26

只看该作者

取消 关注该作者的回复

8#

sunq 发表于 2020-1-17 16:54
直接sum(TABLE.COL)/10000

两列/10000,再做相减也会有问题。

小亿 管理员

发表于2020-2-20 14:40

只看该作者

取消 关注该作者的回复

9#

问题是否有得到解决呢?解决之后可以设置最佳答案关帖哟~

a1ex 小试身手Lv3

发表于2020-3-4 17:09

只看该作者

取消 关注该作者的回复

10#

小亿 发表于 2020-2-20 14:40
问题是否有得到解决呢?解决之后可以设置最佳答案关帖哟~84.gif

这个问题没有解决

xxxl 数据领袖Lv6

发表于2020-1-17 16:23

只看该作者

取消 关注该作者的回复

11#

可以尝试更改保留小数位 改成保留6位小数位(如果不够可以再加 加到保留7、8、9位) ,再进行计算,计算后的数据再通过显式表达式写left(self.txt,5)截取出来这样的数据

登录后可回答问题,请登录注册

快速回复 返回顶部 返回列表

小时

全天响应

分钟

快速处理问题

工程师强势助力

明星产品
解决方案
联系合作

400咨询:400-0011-866

技术支持QQ:400-0011-866(工作日9:00-18:00)

产品建议邮箱yixin@esensoft.com

关注我们

扫TA学习更多干货

一对一专家交流

版权所有© 2006-2024 北京亿信华辰软件有限责任公司 京ICP备07017321号 京公网安备11010802016281号