[求助]ABS函数的结果为什么不是数值

sdlyliu_99 · 发表于 2004-10-18 21:52

各位朋友：

请看我以下问题为什么不对。

TJ5FJ6jA.rar (1.79 KB, 下载次数: 163)

[此贴子已经被作者于2004-10-18 22:17:03编辑过]

清风_ll · 发表于 2004-10-18 22:06

有意思

sdlyliu_99 · 发表于 2004-10-18 22:07

那是我的笔误，请看我修改后的文件。

gdliyy · 发表于 2004-10-18 22:18

再说明白一点吧！就是浮点数在系统二进制运算时产生误差所导致。

sdlyliu_99 · 发表于 2004-10-18 22:21

chenjun版主：

谢谢，但F5为什么会那么显示呢？

它应该是0.5才对呀。

能告诉我，我的那个公式怎么才能是0.5呢？

sdlyliu_99 · 发表于 2004-10-18 22:24

能告诉我，我的那个公式怎么才能是0.5呢？

apolloh · 发表于 2004-10-18 22:37

12位以上就出错

0.499999999998835

因为无法进到0.5

echo55 · 发表于 2004-10-19 09:00

以下是引用gdliyy在2004-10-18 22:18:00的发言： 再说明白一点吧！就是浮点数在系统二进制运算时产生误差所导致。

什么是浮点数啊[em04]

chenjun · 发表于 2004-10-19 11:53

就是实数，计算机对数值要转成二进制才能运算的，整数可以精确转换，实数的转换一般都有误差的。

chenjun · 发表于 2004-10-18 22:06

5-3=2，当然不是5了。

		自动登录	找回密码
密码			免费注册