浮点运算误差带来的看不懂

pandaxc · 发表于 2010-8-27 10:34

我也遇到这种问题,只好用ROUND() 解决,郁闷中~~``

nonfish · 发表于 2010-9-7 18:46

有点明白了，应该是EXCEL在公式计算时，将公式转化成机器内码计算后又将内码转化成EXCEL显示值时出现的结果。

枫桥夜泊lwb · 发表于 2010-9-17 00:21

我也会碰到这个问题

jinqiao0078 · 发表于 2010-9-20 16:31

八年了，这个EXCEL浮点的问题一直没有明确说法

doitbest · 发表于 2010-11-28 11:38

探索者就象在画圆，探索越广，圆周越大，问题越多，思考越多，烦恼越多，当然成就也越多

luanjinling · 发表于 2011-1-17 12:52

我用VBA计算-0.8+0.215*1与在单元格计算-0.8+0.215*1的结果进行比较，差值居然不是0，是：
1.11022302462516E-16
也在期待高手解决

灰袍法师 · 发表于 2011-1-17 20:16

NND，我写的贴几乎没有人看，然后天天看到抱怨浮点误差的

浮点数的误差是一定存在，并且无法消除。

永远不要直接比较两个浮点数。比较的时候要先round。

把电脑中的浮点运算误差找出来 - 任何人的电脑都会有这个误差的
http://club.excelhome.net/thread-635915-1-1.html

星星草 · 发表于 2011-1-22 21:21

原帖由 zydtxz 于 2010-4-21 10:45 发表
我最近算一个东西也是这样的，可抑郁了~~明明得0，结果就显示一个科学计数法的东西~我是2003版本的，而且我在同一个excel里不同的sheet里有的就不会出现这种问题，有的就有，这都2010了，有什么号办法没

最近在Excel 2003中做了一个简单的财务上的分类帐页，也出现这个问题，“经费支出”科目年终结转后应该为0，余额用公式相减后也是显示为一个科学计数法，在Excel 2010中一试也是同样的问题，而且在“借贷方向”一栏中还要根据这个数字判断，分别显示“借”、“贷”、“平”，本来应该为0，显示为“平”，结果显示成了“0.00”（设置了显示2位小数，常规格式下是科学记数法）和“借”；但是其他的科目结转后却为0，没有出现这个问题。很是郁闷……

qweedc · 发表于 2011-3-29 15:28

这个问题很麻烦的啊，本来发帖反应类似的问题，结果到这来一看到现在还没解决啊。

zyhui1961 · 发表于 2011-4-30 16:01

这个问题有点烦人，我是深受其害，至今没有解决。

		自动登录	找回密码
密码			免费注册

[已解决] 浮点运算误差带来的看不懂

八年了，这个EXCEL浮点的问题一直没有明确说法

最新热点 /1