竟然不等于1（公式计算为什么不精确）

k68416760 · 发表于 2024-10-31 13:34

无意中写公式时发现这一问题。见图。

都是3-2，但上面的2我是用公式写为=(1-0.99)*100*2，但为什么上面的公式结果却不等于1。我换为另一台电脑试了也是如此，于是有以下疑问：

1、为什么计算出的结果不准确？
2、有没有什么方法让结果准确。

晚风风 · 发表于 2024-10-31 15:04

1.浮点数误差
2.添加round

mjm04 · 发表于 2024-10-31 15:33

2楼正解

并且函数不同，浮点计算精度也不同呢

jivy1212 · 发表于 2024-10-31 15:55

本帖最后由 jivy1212 于 2024-10-31 15:59 编辑

你认为的0.1+0.2=0.3，实际上软件运算过程可能是0.1先转换成二进制 0.0001100110011001...，0.2转换成二进制 0.0011001100110011...，然后再求和再转换成十进制

jivy1212 · 发表于 2024-10-31 15:58

你认为的0.1+0.2=0.3，实际上软件运算过程可能是0.1先转换成二进制 0.0001100110011001...，0.2转换成二进制 0.0011001100110011...，然后再求和再转换成十进制

hxj119 · 发表于 2024-10-31 16:03

了解电脑的“浮点数误差”

k68416760 · 发表于 2024-10-31 16:45

晚风风发表于 2024-10-31 15:04
1.浮点数误差
2.添加round

谢谢！总算知道可以添加ROUND函数来让其精确点了。

k68416760 · 发表于 2024-10-31 16:48

jivy1212 发表于 2024-10-31 15:55
你认为的0.1+0.2=0.3，实际上软件运算过程可能是0.1先转换成二进制 0.0001100110011001...，0.2转换成二 ...

谢谢解答！虽然很复杂，至少知道有这东西了…唉呀，我也经常帮公司的领导同事们写各种函数公式，没想到第1次遇到这种情况，看来我基本功不够扎实呀…

yellowhawk · 发表于 2024-10-31 17:16

在选项里设置：以显示精度计算，即可

你是那块小饼干 · 发表于 2024-10-31 17:33

添加round修正哈计算方式不一样

		自动登录	找回密码
密码			免费注册

[已解决] 竟然不等于1（公式计算为什么不精确）