[已解决]为什么会有小数

excel白兔

咋会这个结果呢

最佳答案

月排行榜 / 总排行榜

josonxu

2014-2-25 17:21

excel白兔 发表于 2014-2-25 17:16
老师是 这个0.7000000000044 后面的44怎么出来的呀？

这是计算机浮点计算造成的误差
计算机运算不是像我们计算那么简单，其中有一个复杂的过程，即先把十进制数字转为，再运算，然后再把结果转为十进制数字。受计算机精度限制，小数转为二进制数字时，只能取近似值，运算后再用某些方法对结果进行调节，使其尽可能接近精确值，但不可能做到完全精确。

跳转到最佳答案楼层

as0810114

你的单元格格式为数值，小数位数为20位。

josonxu

改成常规  

excel白兔

as0810114 发表于 2014-2-25 17:11
你的单元格格式为数值，小数位数为20位。

老师是

-38.70000000000440000000

这个0.7000000000044 后面的44怎么出来的呀？

excel白兔

josonxu 发表于 2014-2-25 17:12
改成常规

老师是

-38.70000000000440000000

这个0.7000000000044 后面的44怎么出来的呀？

josonxu

excel白兔 发表于 2014-2-25 17:16
老师是 这个0.7000000000044 后面的44怎么出来的呀？

这是计算机浮点计算造成的误差
计算机运算不是像我们计算那么简单，其中有一个复杂的过程，即先把十进制数字转为，再运算，然后再把结果转为十进制数字。受计算机精度限制，小数转为二进制数字时，只能取近似值，运算后再用某些方法对结果进行调节，使其尽可能接近精确值，但不可能做到完全精确。

excel白兔

josonxu 发表于 2014-2-25 17:21
这是计算机浮点计算造成的误差
计算机运算不是像我们计算那么简单，其中有一个复杂的过程，即先把十进制 ...

老师这个是可能出现也可能不出现的是吧？ 具体能不能出现得看具体情况是吧？   可以说说像什么情况一定会出现这样的问题吗？

tgydslr

学习了