把电脑中的浮点运算误差找出来 - 任何人的电脑都会有这个误差的

datafield · 发表于 2012-7-6 10:52

我昨天半夜，就是遇到这样的问题，用IF判断两个单元格，本应相等，结果IF总是判断不相等。

现在大概知道为什么了。

rr_zhao · 发表于 2012-7-18 15:42

正好受这困扰，谢谢分享！

rockysong · 发表于 2012-8-29 22:26

用了Excel十几年，今天才遇到这个问题，不过还是没太懂，不管怎样，感谢楼主。

中原一布衣 · 发表于 2013-5-9 20:23

不愧是法师啊！总算明白了一点！

ywjco · 发表于 2014-4-11 08:07

=ROUND(SUM(C1:C17),10)

这样就可以了。

看花 · 发表于 2014-4-18 12:21

试了一下，的确如此，但只要更改其中任意一个数字就会得到正确的答案，只计算任意的十六行也正确，加行也行，我想问题在十七行和计算为零

Zero_GtA · 发表于 2014-4-18 12:42

新人学习下谢谢分享

衣袂飘飘 · 发表于 2014-5-19 16:03

学习了，哈哈！

jennyshen111 · 发表于 2014-5-26 14:20

学习一下，谢谢分享！

ztsjjzcyq · 发表于 2014-6-4 09:34

学习了，谢谢楼主！

		自动登录	找回密码
密码			免费注册

[分享] 把电脑中的浮点运算误差找出来 - 任何人的电脑都会有这个误差的