[已解决]请教mod函数问题

mybadboy

请问为什么mod(1.8,0.3)=1.11022E-16
根据 mod(n,d)=n-d*(int(n/d),则=1.8-0.3*(INT(1.8/0.3))结果不是应该为0吗?

最佳答案

月排行榜 / 总排行榜

业余爱好者

2011-2-24 09:49

mybadboy 发表于 2011-2-24 09:38
请问为什么mod(1.8,0.3)=1.11022E-16
根据 mod(n,d)=n-d*(int(n/d),则=1.8-0.3*(INT(1.8/0.3))结果不是应该 ...

没办法,电脑运算误差

套个ROUND这类函数解决吧

跳转到最佳答案楼层

业余爱好者

mybadboy 发表于 2011-2-24 09:38
请问为什么mod(1.8,0.3)=1.11022E-16
根据 mod(n,d)=n-d*(int(n/d),则=1.8-0.3*(INT(1.8/0.3))结果不是应该 ...

没办法,电脑运算误差

套个ROUND这类函数解决吧

我心永恒

结果是0,把单元 格的格式转换一下就是0

mybadboy

转换单元格格式不行，二楼说得对，套个round函数问题可解决.
谢谢各位的热心帮助。

厦门行

套过round函数