[已解决]求助，为什么用计算器算出来等于零，公式算出来尽然不等了

miaosird · 发表于 2011-6-8 09:52

本帖最后由 miaosird 于 2011-6-8 10:05 编辑

AI列公式计算结果为什么会和计算器计算出来的不一样呢，请高手指教.已经使用了以显示精度为准

Book1.rar (7.37 KB, 下载次数: 8)

cwen · 发表于 2011-6-8 09:53

有没有小数点啊··

业余爱好者 · 发表于 2011-6-8 09:56

电脑计算的方式同你用计算器计算方式是不一样的

电脑计算全部值,而显示的只是一部分

可以用四舍五入函数把每个数处理后用,也可以在选项中设置以显示精度为准

一般就用这两种办法

miaosird · 发表于 2011-6-8 10:06

已经使用了显示精度为准，可还是不相等呀

tkgg93 · 发表于 2011-6-8 10:28

浮点问题

格子e先生 · 发表于 2011-6-8 10:29

后面出现了很多位小数是不是？
浮点运算造成的。
相差都是很小的，
不用管他，四舍五入显示之后都是忽略不计的

miaosird · 发表于 2011-6-8 10:48

谢谢各位问题已解决

		自动登录	找回密码
密码			注册