[已解决]运算问题

youke333 · 发表于 2013-1-17 13:51

蓝色格格运算结果应该为0，可是不是0，是为什么啊。能不能说的白话一点，好能理解，谢谢。

最佳答案

业余爱好者

2013-1-17 14:23

浮点运算误差

选项>重新计算》以显示精度为准就可以了

E路人 · 发表于 2013-1-17 14:04

有点像科学计数格式，也有点像特殊格式中的邮政编码6个0，点像特殊格式中的邮政编码在点自定义它的值就是个零

业余爱好者 · 发表于 2013-1-17 14:23

浮点运算误差

选项>重新计算》以显示精度为准就可以了

youke333 · 发表于 2013-1-17 14:47

业余爱好者发表于 2013-1-17 14:23
浮点运算误差

选项>重新计算》以显示精度为准就可以了

我看过这个浮点误差，可是我这里面就只有一位小数，为什么也会出现浮点误差呢？一般出现浮点误差不都是很长的小数位数才会有的吗?

业余爱好者 · 发表于 2013-1-17 14:55

youke333 发表于 2013-1-17 14:47
我看过这个浮点误差，可是我这里面就只有一位小数，为什么也会出现浮点误差呢？一般出现浮点误差不都是很 ...

是计算机内部计算问题,不用去管它的

在现实中,类似情况是常有

		自动登录	找回密码
密码			注册