为什么ROUNDDOWN((12%-11.3%)/0.1%,0)=6，而不是7

Hiro小超 · 发表于 2024-5-27 17:12

为什么ROUNDDOWN((12%-11.3%)/0.1%,0)=6，而不是7，奇怪了，大神求解答

=ROUNDDOWN((12%-11.3%)/0.1%,0)

miaojohn45 · 发表于 2024-5-27 17:16

不奇怪，浮点运算是有误差的，所以不能使用rounddown处理，用round(原公式,5)处理即可。

Hiro小超 · 发表于 2024-5-27 17:18

miaojohn45 发表于 2024-5-27 17:16
不奇怪，浮点运算是有误差的，所以不能使用rounddown处理，用round(原公式,5)处理即可。

=ROUNDDOWN(ROUND((12%-11.3%)/0.1%,5),0)

这样就可以了，虽然不理解，但是能用了，谢谢

hugeinfo · 发表于 2024-5-27 17:24

=CEILING((12%-11.3%)/0.1%,1)

小凡、、、 · 发表于 2024-5-27 17:45

这样看明白了不，计算机的浮点运算是有误差的，ROUNDDOWN获取到的值并不是精准数字7，要深入来了解的话去搜下浮点运算误差的文案解释

静听溪流 · 发表于 2024-5-27 20:42

关于浮点误差的可以看看下面这个链接

复制代码

		自动登录	找回密码
密码			免费注册

[已解决] 为什么ROUNDDOWN((12%-11.3%)/0.1%,0)=6，而不是7