[已解决]请问怎么比较多精度浮点计算在误差范围内

釜底抽薪

比如  A=31.25423656554
        B=56.54226689648
        C=87.79651346202
   这个误差范围值是 正负 0.00001  小数5位
    A  B 是数据是变量   C是固定的
if (round(a,5)+round(B,5))-ROUND(C,) =   +-0.00001               then


不知道明确的运算符号

最佳答案

月排行榜 / 总排行榜

高

2022-6-24 09:53

一、If Abs(Round(a, 5) + Round(B, 5) - Round(C, 5)) < 0.00001 Then   (加上一个abs)
二、If Round(a, 5) + Round(B, 5) - Round(C, 5) < 0.00001 or  Round(a, 5) + Round(B, 5) - Round(C, 5) > -0.00001 Then (用一个or语句 )

跳转到最佳答案楼层

釜底抽薪

1

高

一、If Abs(Round(a, 5) + Round(B, 5) - Round(C, 5)) < 0.00001 Then   (加上一个abs)
二、If Round(a, 5) + Round(B, 5) - Round(C, 5) < 0.00001 or  Round(a, 5) + Round(B, 5) - Round(C, 5) > -0.00001 Then (用一个or语句 )

釜底抽薪

高 发表于 2022-6-24 09:53
一、If Abs(Round(a, 5) + Round(B, 5) - Round(C, 5)) < 0.00001 Then   (加上一个abs)
二、If Round(a,  ...

感谢，当时一下卡到这里了，过一会 我想到了绝对值了  用了ABS
or 语句有可能要出错