Excel计算精度问题

wlmhit903 · 发表于 2023-7-4 12:45

偶然发现一个问题，在单元格公式 A1=（60-59.85）*20 结果是3，B1=rounddown（A1，0），结果显示是2，把60附近的几个数都测试了一下，发现（65-64.85）*20 以上的，B1的结果就是3。
测试多个版本结果都一样，这个bug的分界线是64。
请问这里面是什么原因？怎么能避免这种情况发生？

一剑惊心 · 发表于 2023-7-4 13:05

把A1的格式设置10位小数看看呢，无非是浮点运算造成的

1007890405 · 发表于 2023-7-4 13:31

引用A1时，在适当的位置，给他提前四舍五入
=ROUNDDOWN(ROUND(A1,2),0)

wlmhit903 · 发表于 2023-7-11 15:46

1007890405 发表于 2023-7-4 13:31
引用A1时，在适当的位置，给他提前四舍五入
=ROUNDDOWN(ROUND(A1,2),0)

是个办法。结果可以正确显示了。不过这个是Excel本身的问题，不清楚是什么规则的情况下，不知道哪些数需要提前处理，

huanghai22 · 发表于 2023-7-11 19:57

有什么问题吗？都是正确的啊

wlmhit903 · 发表于 2023-7-12 09:34

huanghai22 发表于 2023-7-11 19:57
有什么问题吗？都是正确的啊

我在几台电脑上用不同版本的Excel试的结果都是有问题，主要是A列的格式设为不带小数点的情况下可能就有这种问题

jy03342543 · 发表于 2023-7-12 16:07

这是浮点尾差造成的.都用Rounddown嵌套一下保留的小数位一致那么出来的结果就一致了.

		自动登录	找回密码
密码			免费注册

[讨论] Excel计算精度问题