浮点运算误差带来的看不懂

芳芳 · 发表于 2003-12-13 05:41

很奇怪，我按照二楼的方法，可是还是跟楼主说的一样，就是不相等

haru · 发表于 2003-12-13 21:42

XP照样有此问题,当显示小数点后16位时,计算精度无法保证,

cheerson · 发表于 2003-12-13 21:56

我也发现类似问题，后来遇到判断A和B相等的问题时，我只能用IF(ABS(A-B)<0.00001，相等，不相等)来解决问题。

豪哥 · 发表于 2004-2-20 20:56

我看得有点郁闷～还好很少机会用15位以上数字

laoyebin · 发表于 2007-3-22 20:29

这个问题好象到2007版本还是没解决哦

A1=(5.1-5.2)+1=0.899999999999999

是按F9算出来的

abcd321abcd · 发表于 2007-3-26 21:32

还有很多情况均会出现这种现象。

yangjia1980 · 发表于 2007-4-17 09:52

如果只是计算值

好象影响不大

如果用这个值来确立标志

问题就大了

eary201 · 发表于 2007-5-25 15:25

这个问题什么时候才能解决啊，我也深受其害！

woshizbpixie · 发表于 2007-8-29 04:31

A1=(4.1-4.2)+1 ，A2=0.9 我用的是2003，我改成以显示精度为准还是为不等，EXCEl真不知道为什么会这样？另外还有一款软件mathcad里也是保留15位小数，不过A1=(4.1-4.2)+1 ，A2=0.9 此两值判定时是相等，我试了

Zhang_III · 发表于 2008-3-18 17:05

no answer,no solver.

		自动登录	找回密码
密码			免费注册

[已解决] 浮点运算误差带来的看不懂