我的位置：首页 › 数据采集汇总平台-i@Report › i-问题求助 › 浮点数误差

浮点数误差

复制链接 | 收藏本帖

10995

: kian 小试身手Lv3

发表于2019-6-5 14:32

悬赏1

未解决

楼主

这个是一张报表上的数,是经过公式计算的,本来应该是0,但是出现了现在的数，请问下这个应该怎么处理

最近看过此主题的会员

我来回答

QQ空间微信

10个回答

只看楼主

: 孤傲的旋律数据达人Lv4

发表于2019-6-5 14:36

丨

只看该作者

丨

取消关注该作者的回复

沙发

浮点数误差什么意思啊，，是误差导致它显示错误的吗？

: kian 小试身手Lv3

发表于2019-6-5 14:39

丨

只看该作者

丨

取消关注该作者的回复

板凳

孤傲的旋律发表于 2019-6-5 14:36
浮点数误差什么意思啊，，是误差导致它显示错误的吗？

对的,本来按照公式相减之后应该是0，结果显示出来是这个数字，但是好像保存到数据库里是0

: 孤傲的旋律数据达人Lv4

发表于2019-6-5 14:47

丨

只看该作者

丨

取消关注该作者的回复

地板

kian 发表于 2019-6-5 14:39
对的,本来按照公式相减之后应该是0，结果显示出来是这个数字，但是好像保存到数据库里是0 ...

我看显示值是9呀，，这个误差这么大的吗？公式是怎么写的呢，取出来的数值运算是什么样的呀比如9/4+（2*3）这种格式？

: kian 小试身手Lv3

发表于2019-6-5 14:49

丨

只看该作者

丨

取消关注该作者的回复

孤傲的旋律发表于 2019-6-5 14:47
我看显示值是9呀，，这个误差这么大的吗？公式是怎么写的呢，取出来的数值运算是什么样的呀比如9/4+（2* ...

不是9啊你仔细看后边还有个E-13 是个极小数

: 孤傲的旋律数据达人Lv4

发表于2019-6-5 15:05

丨

只看该作者

丨

取消关注该作者的回复

kian 发表于 2019-6-5 14:49
不是9啊你仔细看后边还有个E-13 是个极小数

哦哦那公式是什么？？公式对应的值是啥我本地操作看看，另外说明下i的具体版本号
或者是直接上传下任务备份，说明下是哪个表元，每个值应该填什么？？

: kian 小试身手Lv3

发表于2019-6-5 15:16

丨

只看该作者

丨

取消关注该作者的回复

孤傲的旋律发表于 2019-6-5 15:05
哦哦那公式是什么？？公式对应的值是啥我本地操作看看，另外说明下i的具体版本号
或者是直接上传下任务 ...

值就是截图上的，出现我说的那个情况就是填值的时候，保存完在重新点进去就变成0了

: 孤傲的旋律数据达人Lv4

发表于2019-6-5 15:21

丨

只看该作者

丨

取消关注该作者的回复

kian 发表于 2019-6-5 15:16
值就是截图上的，出现我说的那个情况就是填值的时候，保存完在重新点进去就变成0了 ...

好我试试

: 孤傲的旋律数据达人Lv4

发表于2019-6-5 16:24

丨

只看该作者

丨

取消关注该作者的回复

孤傲的旋律发表于 2019-6-5 15:21
好我试试

呃没有复现呀，你产品具体版本号是多少？

: kian 小试身手Lv3

发表于2019-6-10 09:42

丨

只看该作者

丨

取消关注该作者的回复

11#

孤傲的旋律发表于 2019-6-5 16:24
呃没有复现呀，你产品具体版本号是多少？

这个问题也是只出现在这一个表元里,而且只出现在2019年5月这一个报表期0305这一个机构里

: 孤傲的旋律数据达人Lv4

发表于2019-6-12 11:18

丨

只看该作者

丨

取消关注该作者的回复

12#

kian 发表于 2019-6-10 09:42
这个问题也是只出现在这一个表元里,而且只出现在2019年5月这一个报表期0305这一个机构里 ...

要不给我下任务备份看看

登录后可回答问题，请登录或注册

有问题，来提问！

我要发帖