[已解决]关于数组类型求助，急求

526753064

附件中明明sum（arr）=sum（brr），但是就显示错误，如果是整数就对的，出现小数就就错，还有时候单元格里输入10.02，数组运算的时候就变成10.01999999997，这是什么原因，和数组类型有关吗

最佳答案

月排行榜 / 总排行榜

上清宫主

2014-10-29 21:31

消除是不可能的，这是由计算机中小数的表示方法所决定的。
计算机中数的表示是：整数（整数部份）除以2取余数，所以总可以精确表示；小数（小数部份）是乘2取整，这样一来，0.2、0.1这样数，无论乘多少次2总还有小数，所以根本无法精确表示，只有用近似数来表示
为此，判断两个小数是否相等，常常判断这两个数的差值和一个极小极小的数相比，如果比极小极小的数都还小，就可近似认为这两个数相等。
如何取极小极小的数则要看你的精度了
这就如同黄金，现在的达四个9的就可认为是纯金了，而古代却不是

跳转到最佳答案楼层

gdpgdp317

附件在哪？

526753064

gdpgdp317 发表于 2014-10-29 19:06
附件在哪？

以上传，请帮忙，谢谢

526753064

好像是10.02-10之后数组里显示.19999997

上清宫主

又是蛋痛的小数问题
If Abs(Application.Sum(arr) - Application.Sum(brr)) > 0.0000000001 Then MsgBox ("两列金额不相等")

dsmch

浮点计数造成的误差
If Round(Application.Sum(arr), 2) <> Round(Application.Sum(brr), 2) Then MsgBox "两列金额不相等" Else MsgBox "相等"

526753064

dsmch 发表于 2014-10-29 21:00
浮点计数造成的误差
If Round(Application.Sum(arr), 2)  Round(Application.Sum(brr), 2) Then MsgBox "两 ...

浮点计数能消除吗？运算的时候会出现10.02-10=0.1999997，我想结果实际是什么就什么，有可能是10.0002，round后面的位数怎么定

526753064

上清宫主 发表于 2014-10-29 20:58
又是蛋痛的小数问题
If Abs(Application.Sum(arr) - Application.Sum(brr)) > 0.000 ...

浮点计数能消除吗？运算的时候会出现10.02-10=0.1999997，我想结果实际是什么就什么，有可能是10.0002，round后面的位数怎么定

dsmch

打个比方
0.9的循环和1相比较，两数是否相等？
答案是相等，证明如下：
0.9的循环=0.3的循环×3=1/3 ×3=1
以上情况，用round函数保留几位小数就可以了。

上清宫主

消除是不可能的，这是由计算机中小数的表示方法所决定的。
计算机中数的表示是：整数（整数部份）除以2取余数，所以总可以精确表示；小数（小数部份）是乘2取整，这样一来，0.2、0.1这样数，无论乘多少次2总还有小数，所以根本无法精确表示，只有用近似数来表示
为此，判断两个小数是否相等，常常判断这两个数的差值和一个极小极小的数相比，如果比极小极小的数都还小，就可近似认为这两个数相等。
如何取极小极小的数则要看你的精度了
这就如同黄金，现在的达四个9的就可认为是纯金了，而古代却不是