浮点运算误差带来的看不懂

sunnet

A1=(4.1-4.2)+1； 或者 (5.1-5.2)+1、(6.1.-6.2)+1、(7.1.-7.2)+1 B2=0.9 C1=IF(A1=B1,"相等","不等") 结果是“不等”！ 怎么回事？ 想听听各位的说法。

sunnet

谢谢楼上的回答。 确实，选中“显示值为准”的选项可以解决这个问题；此外还有一些办法，比如使用 ROUND 函数等等也可以此问题。 但是，我们什么时候需要这样的处理呢？不见得是要我们每次用人工去一一检查是否有错，是否需要去选中“显示值为准”或使用 ROUND 函数吧？这就不是让 Excel 替我们工作，而是变成了我们替它批改作业了！ 还有，为什么 (4.1-4.2)+1、(5.1-5.2)+1、(6.1.-6.2)+1、(7.1.-7.2)+1 会＝=0.899999999999999，而 (1.1-1.2)+1、(2.1-2.2)+1、(3.1.-3.2)+1、(8.1.-8.2)+1、 (9.1-9.2)+1 则 ＝ 0.9 呢？ 嘿，Excel，你让我不明白……

sunnet

再请看： A1＝1.333+1.225-1.333-1.225 Excel 97 和其以后的版本中，结果等于 “0”；而在 Excel 95 和其以前的版本中，结果等于2.22044604925031E-16。 这些“看不懂”还与版本有关。

seahart

excel2000应该没此类问题了吧。

sunnet

本贴第一个例子就是在 Excel 2000 中测试的！

sunnet

美国的 Excel 大师 John Walkenbach (『 Excel 2002 Bible 』，中文版 Excel 2002 宝典之原著的两作者之一)介绍说，“从 Excel'97 开始，加减法结果等于或者非常接近于零，计算引擎对任何由于操作数的二进制转换所引入的误差进行补偿。” 可是现在看来，其补偿的精度范围定得很小，小数点之后的16位数仍然视为“可能是实际运算的结果”！ 哪位现在还使用 Lotus 123，在它上面试一试怎么样？ 否则，在计算值要求非常高的场合，使用 Excel 是否有点“提心吊胆”？

zeuce

这个问题有点烦人，我是深受其害。

no-sir

以下是引用sunnet在2002-8-23 1:48:18的发言： 谢谢楼上的回答。 确实，选中“显示值为准”的选项可以解决这个问题；此外还有一些办法，比如使用 ROUND 函数等等也可以此问题。 但是，我们什么时候需要这样的处理呢？不见得是要我们每次用人工去一一检查是否有错，是否需要去选中“显示值为准”或使用 ROUND 函数吧？这就不是让 Excel 替我们工作，而是变成了我们替它批改作业了！ 还有，为什么 (4.1-4.2)+1、(5.1-5.2)+1、(6.1.-6.2)+1、(7.1.-7.2)+1 会＝=0.899999999999999，而 (1.1-1.2)+1、(2.1-2.2)+1、(3.1.-3.2)+1、(8.1.-8.2)+1、 (9.1-9.2)+1 则 ＝ 0.9 呢？ 嘿，Excel，你让我不明白……

我用xp版本，没有这个问题。以前用97时碰到这个问题，后来公式里用了round()才解决问题。

luhuajun

这个问题我也早就提过，看前面的贴吧，谁都不知有何规矩

sunnet

To no-sir 你的 Office XP 是什么版本的？有没有加装过什么补丁？ 为什么我在 Office XP 中测试情况如故？