关于TRUNC函数计算不准确的问题

lgl1514 · 发表于 2024-4-10 22:02

本帖最后由 lgl1514 于 2024-4-10 22:21 编辑

假设一个数12.25，那么TRUNC(12.25,1)=12.2
我计算
12.25-TRUNC(12.25,1)
=0.0500000000000007
居然不等于0.05

因为我要判定是否等于0.05，结果IF函数对这个结果判定为FALSE
请问这是咋回事，EXCEL函数计算不精确吗？

我是通过“公式求值”功能验算我的公式时发现这一情况，百思不得其解！

sandays · 发表于 2024-4-10 22:27

trunc不背这锅，你直接输入 12.25-12.2也是这样的结果。
这是浮点误差，进制转换过程中产生的。

miaojohn45 · 发表于 2024-4-10 22:47

如果要判断计算的结果，需要先消除浮点运算的误差，一般浮点预算的误差都大于小数点后5位（实际误差小数位大得多），而且一般小数点后五位的精度也足够使用，用=ROUND(公式,5)即可消除浮点运算误差。

心电感应 · 发表于 2024-4-11 01:05

我的表格计算没问题

lgl1514 · 发表于 2024-4-11 08:16

心电感应发表于 2024-4-11 01:05
我的表格计算没问题

没错TRUNC(12.25,1)=12.2
你试试12.25-TRUNC(12.25,1)是不等于0.05的

jivy1212 · 发表于 2024-4-11 08:22

大多数软件计算过程时并不是以十进制直接算，而是通过先转二进制，然后二进制结果，再然后十进制结果，那么问题来当出现小数时这个转换过程就有有误差出来，即浮点误差。问题不在TRUNC在于+-*/等常规运算

hxj119 · 发表于 2024-4-11 08:34

这是浮点误差问题

lgl1514 · 发表于 2024-4-11 09:28

miaojohn45 发表于 2024-4-10 22:47
如果要判断计算的结果，需要先消除浮点运算的误差，一般浮点预算的误差都大于小数点后5位（实际误差小数位 ...

非常感谢，我又知道了新知识点“浮点误差”，知道了问题所在原因，也感谢老师提供解决方法！

心电感应 · 发表于 2024-4-11 19:09

lgl1514 发表于 2024-4-11 08:16
没错TRUNC(12.25,1)=12.2
你试试12.25-TRUNC(12.25,1)是不等于0.05的

再次相减是有浮点，发现了问题相信你一定有能力解决。

		自动登录	找回密码
密码			免费注册

[求助] 关于TRUNC函数计算不准确的问题