浮点运算误差带来的看不懂

涅槃碟 · 发表于 2014-10-18 16:06

好好学定会有成果

wulai8377 · 发表于 2017-4-10 16:46

也遇到这个问题了

大家看看我的情况

附件

wulai8377 · 发表于 2017-4-10 16:49

看来17年也没解决这个问题

anymole · 发表于 2017-12-20 17:03

很有用！多谢

231943361 · 发表于 2018-2-2 16:16

46182.223
运行看结果
使用round函数来规范
例如: 新的一列输入 =ROUND(A2,2)
这样来规范A2列里面的数值,并保留两位小数

WLX7109 · 发表于 2018-2-3 16:29

一样，特别对账的时候，差一分最难受了，只能全部用ROUND和显示精确度，但精确度会改为原数据

1249994139 · 发表于 2018-2-5 11:01

我在利用VBA进行一组数值的比较时，也出现这种问题。

whiteryccx · 发表于 2018-8-31 08:41

灰袍法师发表于 2011-1-17 20:16
NND，我写的贴几乎没有人看，然后天天看到抱怨浮点误差的

浮点数的误差是一定存在，并且无法消除。

威武！！我站在18年的时点上，搜索浮点出来的帖子竟然是02年的，然后都是在讨论，你这绝对是一锤定音啊。一定要请论坛领导给你推上精华！！！

zhang6029 · 发表于 2018-8-31 08:50

这需要专门学习一下计算机组成原理这本数，关于计算机如何表示浮点数、包括正数、负数，是计算机数的表示机制问题。

rtnhf · 发表于 2018-10-10 17:06

第一次听说这事，新知识点

		自动登录	找回密码
密码			免费注册

[已解决] 浮点运算误差带来的看不懂