浮点运算误差带来的看不懂

sunnet · 发表于 2002-8-22 13:02

A1=(4.1-4.2)+1；或者 (5.1-5.2)+1、(6.1.-6.2)+1、(7.1.-7.2)+1 B2=0.9 C1=IF(A1=B1,"相等","不等") 结果是“不等”！怎么回事？想听听各位的说法。

sunnet · 发表于 2002-8-23 01:48

谢谢楼上的回答。确实，选中“显示值为准”的选项可以解决这个问题；此外还有一些办法，比如使用 ROUND 函数等等也可以此问题。但是，我们什么时候需要这样的处理呢？不见得是要我们每次用人工去一一检查是否有错，是否需要去选中“显示值为准”或使用 ROUND 函数吧？这就不是让 Excel 替我们工作，而是变成了我们替它批改作业了！还有，为什么 (4.1-4.2)+1、(5.1-5.2)+1、(6.1.-6.2)+1、(7.1.-7.2)+1 会＝=0.899999999999999，而 (1.1-1.2)+1、(2.1-2.2)+1、(3.1.-3.2)+1、(8.1.-8.2)+1、 (9.1-9.2)+1 则＝ 0.9 呢？嘿，Excel，你让我不明白……

sunnet · 发表于 2002-8-23 16:11

再请看： A1＝1.333+1.225-1.333-1.225 Excel 97 和其以后的版本中，结果等于 “0”；而在 Excel 95 和其以前的版本中，结果等于2.22044604925031E-16。这些“看不懂”还与版本有关。

seahart · 发表于 2002-9-4 17:02

excel2000应该没此类问题了吧。

sunnet · 发表于 2002-9-4 17:48

本贴第一个例子就是在 Excel 2000 中测试的！

sunnet · 发表于 2002-9-20 13:30

美国的 Excel 大师 John Walkenbach (『 Excel 2002 Bible 』，中文版 Excel 2002 宝典之原著的两作者之一)介绍说，“从 Excel'97 开始，加减法结果等于或者非常接近于零，计算引擎对任何由于操作数的二进制转换所引入的误差进行补偿。” 可是现在看来，其补偿的精度范围定得很小，小数点之后的16位数仍然视为“可能是实际运算的结果”！哪位现在还使用 Lotus 123，在它上面试一试怎么样？否则，在计算值要求非常高的场合，使用 Excel 是否有点“提心吊胆”？

zeuce · 发表于 2002-9-22 15:29

这个问题有点烦人，我是深受其害。

no-sir · 发表于 2002-9-22 15:42

以下是引用sunnet在2002-8-23 1:48:18的发言： 谢谢楼上的回答。确实，选中“显示值为准”的选项可以解决这个问题；此外还有一些办法，比如使用 ROUND 函数等等也可以此问题。但是，我们什么时候需要这样的处理呢？不见得是要我们每次用人工去一一检查是否有错，是否需要去选中“显示值为准”或使用 ROUND 函数吧？这就不是让 Excel 替我们工作，而是变成了我们替它批改作业了！还有，为什么 (4.1-4.2)+1、(5.1-5.2)+1、(6.1.-6.2)+1、(7.1.-7.2)+1 会＝=0.899999999999999，而 (1.1-1.2)+1、(2.1-2.2)+1、(3.1.-3.2)+1、(8.1.-8.2)+1、 (9.1-9.2)+1 则＝ 0.9 呢？嘿，Excel，你让我不明白……

我用xp版本，没有这个问题。以前用97时碰到这个问题，后来公式里用了round()才解决问题。

luhuajun · 发表于 2002-9-22 17:28

这个问题我也早就提过，看前面的贴吧，谁都不知有何规矩

sunnet · 发表于 2002-9-23 11:43

To no-sir 你的 Office XP 是什么版本的？有没有加装过什么补丁？为什么我在 Office XP 中测试情况如故？

		自动登录	找回密码
密码			免费注册

[已解决] 浮点运算误差带来的看不懂

最新热点 /1