[i@Report5.3] 浮点数变科学计数法并且精度丢失

17
0

esen_5B2KYPBGSL 初学数据Lv2

发表于2025-4-24 11:57

悬赏9

未解决

楼主
【数据长度】设置为22,【小数位数】设置为2
正常来说应该是19位整数,1位小数点,2位小数
当输入15位9时(999999999999999)
显示就是科学计数法了
当输入16位9时(9999999999999999)
数值就变成10000000000000000了(16个0)
此时值已经发生改变了
当输入17位8时(88888888888888888)
值变成了88888888888888900,值也改变了
当输入设定的22位最大值,19个9.99时(9999999999999999999.99)
直接变成0了

怎么解决?
软件能支持最大几位整数,几位小数的浮点数?
0个回答

只看楼主

登录后可回答问题,请登录注册

快速回复 返回顶部 返回列表

小时

全天响应

分钟

快速处理问题

工程师强势助力

明星产品
解决方案
联系合作

400咨询:400-0011-866

技术支持QQ:400-0011-866(工作日9:00-18:00)

产品建议邮箱yixin@esensoft.com

关注我们

扫TA学习更多干货

一对一专家交流

版权所有© 2006-2024 北京亿信华辰软件有限责任公司 京ICP备07017321号 京公网安备11010802016281号