浮点运算误差带来的看不懂

忧陌啊 · 发表于 2019-1-23 15:40

所以到现在19年了还没解决吗？

家淇 · 发表于 2019-5-8 17:01

好气人，前几天更新了图标之后发现这个问题，Excel2016。咋搞呢，有没有办法能解决或者什么版本是好的。用过round取了各种位数，最后两组数相减累加的值都是科学计数，很崩溃啊

wjj2360 · 发表于 2020-5-8 17:03

=MOD(65214594.5,2)计算出来后面就产生浮点误差，导致在进行奇进偶不进计算的时候出错，目前确实没有好的办法处理，很多时候用得胆战心惊的！

top_sc · 发表于 2020-5-8 18:53

计算机也是能力有限，顾头顾不了尾！

zhy_1984 · 发表于 2020-5-11 23:49

打开帖子一看，2002年的，点开最后一页一看，最后一条回复20年的，我也遇到这个问题了。难道地球的工程师已经不能解决这个问题了么？快18年了啊！！！马上一代人过去了！！！

drinkingsnow · 发表于 2021-2-9 14:37

浮点运算目前计算机控制精度一般是小数点后17位，转换到二进制大概是52-53位之间。数学运算应该不会造成太大问题，但逻辑运算可能会出错。

15297762737 · 发表于 2021-11-1 11:10

距离发贴已经19年了，还没解决吗。这种计算错误的，是不是浮点计算的锅？

		自动登录	找回密码
密码			免费注册

[已解决] 浮点运算误差带来的看不懂