很急很简单的问题??刚才发现？？

yanjie · 发表于 2006-12-10 15:14

曾经在一本书中看见介绍过,现摘录如下:

excel常在完成简单数学计算方面表现出无能而让人感到无可奈何!这不是excel的错,计算机(由于它们的本质决定)没有无穷大的精确度造成的!

excel使用8字节的二进制格式储存数字,而二进制可以处理精度为15位数字(excel就是只能处理15位).有一些数字无法用8字节来精确表示所以存储的数字是近似值.

例如:在单元格A1输入公式=(5.1-5.2)+1

结果应该是0.9.但是,你如果把单元格格式设置为显示15位小数,得到结果是0.899999999999999-----接近0.9,但不是0.9.

发生这样的情况是因为excel先执行括号里面的运算5.1-5.2,而它的结果是用一个二进制格式储存,而二进制只能用一个近似值来表达5.1-5.2的结果.之后,公式在这个值上加1,于是近似性错误被传递到结果上!

解决方法:用round函数,也可以用IF函数!

这样的问题我在规划求解中经常碰到!

[此贴子已经被作者于2006-12-10 15:24:32编辑过]

wwwjoan · 发表于 2008-12-6 01:28

是啊，我用了几年的EXCEL表格，财务报表都是自动生成的，上个月才发现有些数据居然变成了 **.9999999999平时显示二位小数的都没发现到这个问题

zlg500887 · 发表于 2009-1-3 19:39

不断学习中,,,

chqyz · 发表于 2009-1-6 14:25

是个问题啊，不过没遇到过，学习了，一会一定会注意这个

曾杰 · 发表于 2009-2-21 13:19

你们提的这个问题高啊

oywd · 发表于 2009-2-24 14:28

哈，怎么会发生这样的问题

枫桥夜泊lwb · 发表于 2010-10-14 07:55

精密度计不能用EXCEL,

doitbest · 发表于 2010-11-23 14:18

只有在论坛里才能高瞻远瞩，只有在论坛才能见识可能一生都不会遇到的问题

wycwang257 · 发表于 2010-11-25 15:34

计算机的精度还是有问题哦

一场＿游戏 · 发表于 2010-11-25 15:39

这也被你LZ发现了，给力

		自动登录	找回密码
密码			免费注册

最新热点 /1