[结]数字高精度（18位小数），显示格式为###,##0.00，显示问题

海浪 · 发表于 2007-9-27 11:01:36

数字高精度（18位小数），显示格式为###,##0.00，显示有问题，比如输入29999.9999999999936，显示29-000.00
问题例子见附件。
不需要循环计算也能再现

atiger · 发表于 2007-9-27 12:01:51

经过测试，是跟设置显示格式有关，如果设置为“#,##0.000000000000000000”或者“###,###.################”这样就正常了。是显示进位的时候出问题

但经过沟通楼主通过调整小数位数，设置为6位就正常了，但我测试还是不行

atiger · 发表于 2007-9-28 09:32:42

再次经过测试如果把表现类型设置为字符型显示也是正常了

海浪 · 发表于 2008-2-21 11:49:40

缩短小数位数,没有问题了

atiger · 发表于 2008-2-21 11:55:08

好,结

		自动登录	找回密码
密码			立即注册