浮点运算误差带来的看不懂

dongliang007

2007依旧

bqs

不知微软官方有没有一个解释

119

QUOTE:

以下是引用sunnet在2002-8-22 13:02:00的发言：
A1=(4.1-4.2)+1；         或者 (5.1-5.2)+1、(6.1.-6.2)+1、(7.1.-7.2)+1
B2=0.9
C1=IF(A1=B1,"相等","不等")

结果是“不等”！

怎么回事？

想听听各位的说法。

还有一个现象：

先设一下数据结构 A1=(X.m-X.n)+1

1.  当X=0，1，2，3；8~15； m=1，n=2时，等于0.9成立

即：A1=(0.1-0.2)+1、(1.1-1.2)+1、(2.1-2.2)+1、(3.1-3.2)+1   =0.9   -->整数部分二进制1-2位

A1=(8.1-8.2)+1、(9.1-9.2)+1、(10.1-10.2)+1、(11.1-11.2)+1   =0.9     （直到15都可以） -->整数部分二进制4位
。。。。。。16以上都不等于0.9     -->整数部分二进制4位以上

2. 当X=4~7； m=1，n=2时，等于0.9不成立

3. 当m=4，n=5时，等于0.9成立

4. 当m=3，n=4时，等于0.9不成立

5. 当m=1，n=3时，等于0.8成立

。。。。。。

不完全测试

这应该与浮点数的存储机制有关系。

163wx

我弄上市公司的财务报表时也遇到这些情况。

15位的数值大把，只有加上round啰

fanda

天啊!

ce100818

浮点误差

 

偶也是受害者

见过许多类似的帖子,偶也没有时间仔细研究,至今见到这个问题还是比较棘手

招唤gntvw

 

或更多高人来多多论述论述

poison630

2003没有此问题。

半榻茶烟

不要说XP,2003也是一样的! 1.1-1.2也存在此问题. 在A1输入=ROW(A1)/10-ROW(A2)/10, 设定小数位16位,往下填充,看看结果就知道了. 到了40行以下,就全部不对了!

半榻茶烟

其实说奇怪也不奇怪,EXCEL本来就只能输入15位的数字,如果超过15位,15位以后都变成了0(但前面的0不算),问题的根源其实也在这儿吧.

Emily

Please read http://support.microsoft.com/default.aspx?scid=KB;EN-US;q78113&