关于浮点运算误差

向前冲

很多人在日常使用Excel，可能都没有注意到浮点小数带来的计算误差问题

因为日常使用的运算结果，肯定都是四舍五入之后的结果，可以排除浮点误差的影响

但是，浮点小数的误差，也会出现在运算的过程，有可能导致最终结果出错。

生成5万个随机小数（四舍五入到2位小数位），加上然后马上减去同一个整数,对比计算前后的数值是否相等（数学上当然是绝对相等的，但是电脑的运算结果就不一定了。。。。。。）找出在你的电脑上会出现浮点小数误差导致错误的运算。

出现浮点小数运算误差的原因很简单，小数有无穷多个甚至一个小数也有无穷多位，如十进制的1/3，或者二进制的0.1所以计算机存储小数的时候，必定只能存储所有小数的一部分，而无穷小数则必须截断,因此，一个小数有时候就只能取一个接近值而不是精确值,而对应的浮点数运算，也只能得到接近值，而不是精确值