SUM加法问题？为什么会多出一些数字？

chnnhb · 发表于 2023-3-8 15:10

用SUM加法加一些数字。。。

从1行加到1296，会在结果小数点第十位多个1出来。但从1加到500，500加到1000，1000加到1296，小数点后十位，十一位都不会出现任何数字。

有大神帮查一下吗？

quqiyuan · 发表于 2023-3-8 15:46

数字超过15位的原因吧。

yfan17 · 发表于 2023-3-8 15:50

=(4.1-4.2)+1=-0.1+1=0.9
结果好像不容置疑，天王老子来了都是等于0.9。但小数位数调整为15位后结果却是0.899999999999999，原因是计算机只能存储和处理二进制数据，就是1和0。Excel在计算时，把十进制的数值转换为二进制，交给计算机处理，再把二进制的结果转换为十进制，显示到Excel中，所以在不同进制之间转换时，就容易出现一些非常细小的误差，这就是浮点误差。

chnnhb · 发表于 2023-3-8 17:24

yfan17 发表于 2023-3-8 15:50
=(4.1-4.2)+1=-0.1+1=0.9
结果好像不容置疑，天王老子来了都是等于0.9。但小数位数调整为15位后结果却是0. ...

好深奥，是这样吗？？？？？？

橒♂蝣 · 发表于 2023-3-11 11:42

浮点误差，所以玩数学的要用专业的数学软件

		自动登录	找回密码
密码			免费注册

[求助] SUM加法问题？为什么会多出一些数字？