[已解决]计算错误的原因在哪里？

hgdzhh · 发表于 2014-10-23 07:10

本帖最后由 hgdzhh 于 2014-10-23 07:12 编辑

当sheet1中的行数超过一定量时，计算就出现错误，整数计算没有问题，只要是小数，就会出错，问题在哪里？请老师指教。
是不是Excel本身的原因，请有能力的朋友用其他方法测试，可能也会出现同样的结果。

代码修改.rar (11.59 KB, 下载次数: 6)

zjdh · 发表于 2014-10-23 07:59

这不是运算错误，是计算机浮点运算造成的。
可采用round函数消除：
.Cells(i, 9) = Round(D(.Cells(i, 2).Value), 3)
.Cells(i, 7) = Round(C(.Cells(i, 2).Value), 3)

无聊的疯子 · 发表于 2014-10-23 08:08

计算精度问题，用函数收下位就行了

張_超 · 发表于 2014-10-23 10:13

给楼上点个赞

hgdzhh · 发表于 2014-10-23 10:34

zjdh 发表于 2014-10-23 07:59
这不是运算错误，是计算机浮点运算造成的。
可采用round函数消除：
.Cells(i, 9) = Round(D(.Cells(i, 2) ...

首先感谢，问题解决了，不过能不能略详细的说明一下“计算机浮点运算”这个问题？为什么多出了13位小数？

zjdh · 发表于 2014-10-23 15:09

hgdzhh 发表于 2014-10-23 10:34
首先感谢，问题解决了，不过能不能略详细的说明一下“计算机浮点运算”这个问题？为什么多出了13位小数 ...

这问题，你还是百度一下吧，不是三言两语说得明白的。

hgdzhh · 发表于 2014-10-23 18:16

zjdh 发表于 2014-10-23 15:09
这问题，你还是百度一下吧，不是三言两语说得明白的。

谢谢

		自动登录	找回密码
密码			注册