[已解决]一个简单的循环，一个小数奇怪的小数，求解释

fjmxwrs

1. Sub main()
   
2. i = 0
   
3. For lambda = 0.92 To m Step 0.001              ’m不是变量，实际运行前写成数字，比如0.999
   
4. i = i + 1
   
5. Cells(1, i) = lambda
   
6. Next lambda
   
7. End Sub

复制代码

一个很简单的程序，目的是让excel表格第一行逐个输出lambda，从0.92开始，到m结束，m可以使0.937,0.999这样的数字

如果m=0.936，ok，excel第一行输出的最后一个数字是0.936
如果m=0.937，ok，excel第一行输出的最后一个数字是0.937，一切正常
但奇葩的是：如果m=0.938，excel第一行输出的最后一个数字竟然还是0.937！！！
从此，如果m=0.939，ok，excel第一行输出的最后一个数字是0.938
如果m=0.940，ok，excel第一行输出的最后一个数字是0.939

问题就在于0.938有什么特殊的吗？为什么从0.938开始就出问题了？
太奇怪了！

最佳答案

月排行榜 / 总排行榜

爱疯

2013-4-17 19:31

Dim i As Single
Sub test1()
    For i = 0.02 To 0.021 Step 0.001
        Debug.Print i
    Next i
End Sub

Sub test2()
    For i = 0.021 To 0.022 Step 0.001
        Debug.Print i
    Next i
End Sub

Sub test3()
    For i = 0.0021 To 0.0022 Step 0.0001
        Debug.Print i
    Next i
End Sub


对test比较，声明i和不声明i
不会证明原理，等学习。我觉得是：
如果i的精度足够，结果就对；
如果i的精度不够，结果就错

跳转到最佳答案楼层

fjmxwrs

把m改为0.937、0.938、0.939试下

爱疯

Dim i As Single
Sub test1()
    For i = 0.02 To 0.021 Step 0.001
        Debug.Print i
    Next i
End Sub

Sub test2()
    For i = 0.021 To 0.022 Step 0.001
        Debug.Print i
    Next i
End Sub

Sub test3()
    For i = 0.0021 To 0.0022 Step 0.0001
        Debug.Print i
    Next i
End Sub


对test比较，声明i和不声明i
不会证明原理，等学习。我觉得是：
如果i的精度足够，结果就对；
如果i的精度不够，结果就错

fjmxwrs

爱疯 发表于 2013-4-17 19:31
Dim i As Single
Sub test1()
    For i = 0.02 To 0.021 Step 0.001

谢谢爱疯老师，原来得设置变量为单精度型

爱疯

fjmxwrs 发表于 2013-4-17 19:54
谢谢爱疯老师，原来得设置变量为单精度型

我也是试出来的，于是那么猜想的。但原理说不上来。

等高手来了，再学习吧。