为什么计算80-79.9结果是0.99943呢？不应该是0.1吗？

zuodinia · 发表于 2023-4-15 13:54

joy.008@163.com · 发表于 2023-4-15 14:15

浮点漂移可以用
=ROUND(A1-B1,2)

静听溪流 · 发表于 2023-4-15 14:22

因为出现了浮点误差，可以加个round函数修正一下
具体的可以搜索了解一下浮点误差

高个子 · 发表于 2023-4-15 15:09

这是因为浮点问题，可以加个round函数修正一下
浮点问题是计算机无法解决的问题，具体的可以自行搜索了解一下

sandays · 发表于 2023-4-16 07:18

小数在进制转换过程中出现的浮点误差。

橒♂蝣 · 发表于 2023-4-16 15:09

浮点计算的误差

lpf127 · 发表于 2023-5-6 13:25

这是因为 Excel 在进行浮点数运算时会存在精度问题，导致在某些情况下计算结果出现了偏差。

在 Excel 中，浮点数的计算都是通过二进制的方式进行的，而二进制中无法准确表达一些十进制小数，例如 0.1、0.2 等。因此，在 Excel 中对这些数字进行计算时可能会出现精度误差，导致计算结果与预期不符。

实际上，80-79.9 的结果应该是 0.1，但由于浮点数计算误差的存在，Excel 计算出的结果是 0.999999999999943，这个值非常接近 1，因此 Excel 显示的结果是 0.99943。

如果您需要精确计算浮点数，建议使用 Excel 的 ROUND 函数或者 DECIMAL 函数进行精确舍入。

		自动登录	找回密码
密码			免费注册

[求助] 为什么计算80-79.9结果是0.99943呢？不应该是0.1吗？