-
-
esen_5B2KYPBGSL 初学数据Lv2
发表于2025-4-24 11:57
悬赏9
未解决
楼主
【数据长度】设置为22，【小数位数】设置为2
正常来说应该是19位整数，1位小数点，2位小数
当输入15位9时（999999999999999）
显示就是科学计数法了
当输入16位9时（9999999999999999）
数值就变成10000000000000000了（16个0）
此时值已经发生改变了
当输入17位8时（88888888888888888）
值变成了88888888888888900，值也改变了
当输入设定的22位最大值，19个9.99时（9999999999999999999.99）
直接变成0了
怎么解决？
软件能支持最大几位整数，几位小数的浮点数？
正常来说应该是19位整数，1位小数点，2位小数
当输入15位9时（999999999999999）
显示就是科学计数法了
当输入16位9时（9999999999999999）
数值就变成10000000000000000了（16个0）
此时值已经发生改变了
当输入17位8时（88888888888888888）
值变成了88888888888888900，值也改变了
当输入设定的22位最大值，19个9.99时（9999999999999999999.99）
直接变成0了
怎么解决？
软件能支持最大几位整数，几位小数的浮点数？
最近看过此主题的会员
2个回答
-
fanting719 初学数据Lv2
沙发
本帖最后由 fanting719 于 2025-4-25 14:57 编辑
目前是：整数18位，浮点包含小数位一起18位
