excel下拉数组出现无规律问题

a6335385 · 发表于 2015-2-14 16:48

从1-10公差为0.1 下拉数组但是出现一个问题

7.1

7.2

数据从7.1没变在7.2的时候变成了7.2000000000001

这个问题就对直方图的统计造成了统计错误在7的时候按直方图统计原理应该算做在7的区间内但是显示的是7.000000000001的话那7就要归到8的区间内了这个问题是什么情况呢
有没知道excel后台编程的大佬啊指点一下

wudixin96 · 发表于 2015-2-14 17:09

只是浮点运算精度问题而已

这个和编程没毛关系，CPU运算带小数点都有精度问题

LangQueS · 发表于 2015-2-14 21:48

		自动登录	找回密码
密码			免费注册