-
-
esen_5B2KYPBGSL 初学数据Lv2
发表于2025-4-24 11:57
悬赏9
未解决
楼主
【数据长度】设置为22,【小数位数】设置为2
正常来说应该是19位整数,1位小数点,2位小数
当输入15位9时(999999999999999)
显示就是科学计数法了
当输入16位9时(9999999999999999)
数值就变成10000000000000000了(16个0)
此时值已经发生改变了
当输入17位8时(88888888888888888)
值变成了88888888888888900,值也改变了
当输入设定的22位最大值,19个9.99时(9999999999999999999.99)
直接变成0了
怎么解决?
软件能支持最大几位整数,几位小数的浮点数?
正常来说应该是19位整数,1位小数点,2位小数
当输入15位9时(999999999999999)
显示就是科学计数法了
当输入16位9时(9999999999999999)
数值就变成10000000000000000了(16个0)
此时值已经发生改变了
当输入17位8时(88888888888888888)
值变成了88888888888888900,值也改变了
当输入设定的22位最大值,19个9.99时(9999999999999999999.99)
直接变成0了
怎么解决?
软件能支持最大几位整数,几位小数的浮点数?