[讨论]浮点运算发现&解决并总结

jinqiao0078 · 发表于 2010-9-20 17:10

[讨论]浮点运算发现&解决并总结---讨论汇总贴

7618978 · 发表于 2010-10-14 10:46

好东西好东西好东西

heylittleguy · 发表于 2011-6-7 22:58

market，学习先

jianbing · 发表于 2011-6-7 23:52

卧室的床底。不到万不得以，不会清理一下。

2010 事故依旧。
另外发现，减号运算和等号运算的精度不一样。
试试
A1=0.2-0.3       B1=-0.1
=A1=B1          得出TRUE
=A1-B1=0       得出FALSE
是不是由于又经过一次减法运算，误差加大？
用=Exact(A1,B1) 结果也是TRUE

[ 本帖最后由 jianbing 于 2011-6-7 23:54 编辑 ]

wx-x · 发表于 2011-7-6 09:42

很好，谢谢楼主。

cee1011 · 发表于 2011-11-26 17:17

{:soso_e113:}通过连接过来的，学习了

枫桥夜泊lwb · 发表于 2011-11-26 17:53

这么多年来一直没有解决,计算时就是用了ROUND也没用

heaven827 · 发表于 2012-3-1 05:39

很好的总结帖，学习{:soso_e179:}

丨灬毛 · 发表于 2012-4-8 11:53

顶，顶，好不容易搜到了{:soso_e100:}

endend1980 · 发表于 2012-8-20 19:52

这正是我需要的，谢谢啊 http://club.excelhome.net/thread-908451-1-1.html

		自动登录	找回密码
密码			免费注册

[讨论]浮点运算发现&解决并总结

[讨论]浮点运算发现&解决并总结---讨论汇总贴

回复 1楼 little-key 的帖子

浏览过的版块