计算精度丢失，舍位无效

复制链接 | 收藏本帖

6134

楼主

BI41
计算时候，第三列 = 前两列差值，计算不对，精度丢失。如图所示。

我来回答

QQ空间微信

沙发

前两列肯定不止两位小数吧？

板凳

韦韬然发表于 2018-12-14 17:09
前两列肯定不止两位小数吧？

看我有选择不需要舍位，但是结果是舍位结果

地板

a1ex 发表于 2018-12-14 17:15
看我有选择不需要舍位，但是结果是舍位结果

我的意思是会不会是你看到的前两列是舍位过的结果，第三列其实就是没舍位的值，前两列不是你想要的效果？

韦韬然发表于 2018-12-14 17:20
我的意思是会不会是你看到的前两列是舍位过的结果，第三列其实就是没舍位的值，前两列不是你想要的效果？ ...

前两列是想要结果，第三列是前两列差值，小数位是不止两位但是我是保留两位小数同时不需要舍位，结果还是舍位。

a1ex 发表于 2018-12-15 08:47
前两列是想要结果，第三列是前两列差值，小数位是不止两位但是我是保留两位小数同时不需要舍位，结果还是 ...

你试一下grid7.c2.txt-grid7.d2.txt是否可以满足你的要求

a1ex 发表于 2018-12-15 08:47
前两列是想要结果，第三列是前两列差值，小数位是不止两位但是我是保留两位小数同时不需要舍位，结果还是 ...

楼上的方法可以解决您的问题吗

登录后可回答问题，请登录或注册

我要发帖

亿信社区