if函数返回值错误

123142217 · 发表于 2018-2-22 17:02

如附件，如果E7等于D7，那F7应该返回值为1才对，为什么返回值为0，百思不得其解，各位大佬帮忙看看

Look我在这 · 发表于 2018-2-22 17:03

你把E7,D7分别抹黑，按F9看看，
其实是不相等的。

123142217 · 发表于 2018-2-22 17:15

Look我在这发表于 2018-2-22 17:03
你把E7,D7分别抹黑，按F9看看，
其实是不相等的。

大神，真厉害！！！！
可是为什么会出现这样的结果呢。42000减去41892.04应该就是107.96 为什么计算出来的结果是107.95555555

123142217 · 发表于 2018-2-22 17:16

Look我在这发表于 2018-2-22 17:03
你把E7,D7分别抹黑，按F9看看，
其实是不相等的。

大神，真厉害！！！！
可是为什么会出现这样的结果呢。42000减去41892.04应该就是107.96 为什么计算出来的结果是107.95555555

shaowu459 · 发表于 2018-2-22 17:26

123142217 发表于 2018-2-22 17:16
大神，真厉害！！！！
可是为什么会出现这样的结果呢。42000减去41892.04应该就是107.96 为什么计算出 ...

明明是107.959999999999
害的我下载了一遍文件看看。。。
百度【浮点运算差】

gdqyboy · 发表于 2018-2-22 18:16

Excel对单元格数值的默认精度是15位,这是EXCEL按浮点运算的结果。因为计算机是用二进制运算，而数据是十进制的。从十进制到二进制，再从二进制到十进制，某些特别的带小数点的数据，可能会有微小的误差。解决方法：使用ROUND函数保留两小数，也可以按下图设置。

gdqyboy · 发表于 2018-2-22 18:16

Excel对单元格数值的默认精度是15位,这是EXCEL按浮点运算的结果。因为计算机是用二进制运算，而数据是十进制的。从十进制到二进制，再从二进制到十进制，某些特别的带小数点的数据，可能会有微小的误差。解决方法：使用ROUND函数保留两小数，也可以按下图设置。

Look我在这 · 发表于 2018-2-23 08:24

浮点误差，
楼上说的很好了，
百度一下咯^_^

		自动登录	找回密码
密码			免费注册

[求助] if函数返回值错误