[已解决]请教这个公式错在哪？

行健 · 发表于 2013-5-22 18:57

附件中AA行泛绿的两个公式我觉得没错，但是为什么无法显示出“OK”,请教大虾门。

最佳答案

月排行榜 / 总排行榜

那么的帅

2013-5-22 19:14

小数浮点运算引起的，加上ROUND函数修正，就可以解决

=IF(ROUND(W1+Y1-U1-T1,2)=0,"OK","false")

复制代码

301350-函数-ROUND-修正浮点运算.rar (449.08 KB, 下载次数: 7)

那么的帅 · 发表于 2013-5-22 19:14

小数浮点运算引起的，加上ROUND函数修正，就可以解决

=IF(ROUND(W1+Y1-U1-T1,2)=0,"OK","false")

复制代码

301350-函数-ROUND-修正浮点运算.rar (449.08 KB, 下载次数: 7)

行健 · 发表于 2013-5-22 20:21

那么的帅发表于 2013-5-22 19:14
小数浮点运算引起的，加上ROUND函数修正，就可以解决

不太理解浮点这东西，但是很感谢。

jxsmjylh · 发表于 2013-5-22 22:17

浮点运算导致的?很难理解

jxsmjylh · 发表于 2013-5-22 22:21

网上查的:简单的说，浮点运算就是把小数点“浮动”起来进行运算。即硬件不固定小数点的位置，根据具体需要进行调整。比如（随便举个例子），一般的乘法 1.5 * 2.3，固定小数点的计算机需要8bit表示一个数就够了，但是若是 0.0000000000015 * 0.0000000000000023，本质上和 1.5 * 2.3 的运算没有什么区别，但是还把小数点固定的话，就需要很大的空间来存放待运算数、中间结果和最终结果，并且计算机要费时处理大量没意义的0。因此采用浮点运算，类似于科学计数法，直观上就是把乘数变成 15 * 23，再单独处理小数点的位置。这样能极大地提高运算速率、节省空间。

我真的没醉 · 发表于 2013-5-24 08:55

乖乖——，好深奥啊！！！

		自动登录	找回密码
密码			注册

[已解决]请教这个公式错在哪？

相关帖子