EXCEL的数值只能有15位有效数字吗？

Zipall · 发表于 2010-4-24 09:50

明明相等的2个数值，有些函数却认为他们不相等。

这是什么原因？哪些函数可以识别数值的15位以后的有效数字？

5ZU2tJpC.rar (4.18 KB, 下载次数: 31)

hyhhh · 发表于 2010-4-24 12:13

只能有15位有效数字

Zipall · 发表于 2010-4-24 13:03

QUOTE:

以下是引用hyhhh在2010-4-24 12:13:00的发言：
只能有15位有效数字

excel规范中也是这么说的，而且大家都是这么认为的。

但是能否解释下为什么

D1≠D2

F1≠F2

领风飞翔 · 发表于 2010-4-24 17:21

楼主搜索一下有关浮点数的相关

Zipall · 发表于 2010-4-24 17:31

谢谢版主的回复。

我知道1.2-1.1会得到0.0999999999999999这种正常的浮点运算误差。

=(1.2-1.1)=0.1

会得到FALSE

但是现在的问题是用等号判断明明相等的数值（说他们是数值可以用ISNUMBER函数验证），在编辑栏中也没有显示那种浮点误差出来，用COUNTIF也能得出他们相等的结论，为什么用MATCH就不行了?

MATCH里套上ROUND他们就相等了，但问题是没ROUND之前A1=A2啊？

领风飞翔 · 发表于 2010-4-24 17:48

两个数键入的方式相同吗？

Zipall · 发表于 2010-4-24 17:53

他们都是其它列的计算结果选择性粘贴值得到的。

BTW：我觉得他们如何输入和15位的问题关系不大，难道说输入的15位以后的被转化成0了，而计算结果中的15位以后的没有被转换成0？

领风飞翔 · 发表于 2010-4-24 17:55

[em09]A1按一下F2和回车，两个就相等了

Zipall · 发表于 2010-4-24 18:07

[em08]避实就虚[em01]

这样问题确实消失了，原因也跟着消失了...

[em47]

[此贴子已经被作者于2010-4-24 18:10:59编辑过]

		自动登录	找回密码
密码			注册