对取整函数INT的疑问.

yqzxexce · 发表于 2013-11-22 19:59

A                B             C             D          E
1
2
3 0.3798 0.3923 400          4
在E4单元格输入函数：=INT((C3-B3)*D3)=4
即：=INT((0.3923-0.3798)*400)=4，但手工算应为5，问题不知出在什么地方，请高手们帮忙解答。谢谢！！！

kane027 · 发表于 2013-11-22 20:11

如果你保留14位小数点时，你会发现它=4.999999999999998

祝洪忠- · 发表于 2013-11-22 20:11

浮点运算造成的误差。
=(C3-B3)*D3
增加小数位数后，显示为4.999999999999980

微软官方网站对此有解释。

kane027 · 发表于 2013-11-22 20:12

yqzxexce · 发表于 2013-11-22 20:32

由于本人工作中对有些数据不需四舍五入，只需取整，对于绝大多数取整，统计数据与手工算是一致的，但对于下列与手工算相差1的现象也出现过几次了，请问高手们在没有办法解决。
=INT((0.3923-0.3798)*400)=4

dengjq2000 · 发表于 2013-11-22 21:03

EXCEL及2003版
工具 - 选项 - 重新计算（在“以显示精度为准”前打勾）

EXCEL 2007版
OFFICE按钮 - EXCEL选项 - 高级 - 计算此工作簿时下 “将精度设为所显示的精度”前打勾）

scggs · 发表于 2013-11-22 22:44

dengjq2000 发表于 2013-11-22 21:03
EXCEL及2003版
工具 - 选项 - 重新计算（在“以显示精度为准”前打勾）

又学习了多谢版主

kane027 · 发表于 2013-11-23 08:09

dengjq2000 发表于 2013-11-22 21:03
EXCEL及2003版
工具 - 选项 - 重新计算（在“以显示精度为准”前打勾）

貌似这个勾选不起作用，类似这种浮点计算造成的计算精度问题在很多时候都能遇到的，，，呵呵

dengjq2000 · 发表于 2013-11-23 08:14

kane027 发表于 2013-11-23 08:09
貌似这个勾选不起作用，类似这种浮点计算造成的计算精度问题在很多时候都能遇到的，，，呵呵

不能完全解决，但基本上还是可以解决一些点的！
我碰到这样类似的问题，通过上述操作，看似解决了。

袁勇 · 发表于 2013-11-23 08:37

为规避浮点运算误差，向上取整公式要强一些。
=CEILING((C3-B3)*D3,1)

		自动登录	找回密码
密码			免费注册

[求助] 对取整函数INT的疑问.

评分