EXECL选中某列的汇总数与SUM函数求和竟然不相等

5101314zt · 发表于 2024-9-12 12:28

EXECL选中某列的汇总数与SUM函数求和竟然不相等，小数点后有误差，到底哪里出了问题啊？

wp231957 · 发表于 2024-9-12 12:34

取整不久完了，这两个数本就是一个数

5101314zt · 发表于 2024-9-12 12:37

wp231957 发表于 2024-9-12 12:34
取整不久完了，这两个数本就是一个数

需要找出问题究竟出在哪里啊

wp231957 · 发表于 2024-9-12 13:03

5101314zt 发表于 2024-9-12 12:37
需要找出问题究竟出在哪里啊

没有问题，你找什么问题，你不会要去研究一下那个0.00000000000001吧

weiguidun · 发表于 2024-9-12 13:49

5101314zt 发表于 2024-9-12 12:37
需要找出问题究竟出在哪里啊

这个涉及到计算机的运算原理，计算机用是2进制的，有些十进制有限的数转成2进制就是无限的数了，2进制舍去后面的数就会有误差，所以这个没问题。

5101314zt · 发表于 2024-9-12 15:07

weiguidun 发表于 2024-9-12 13:49
这个涉及到计算机的运算原理，计算机用是2进制的，有些十进制有限的数转成2进制就是无限的数了，2进制舍 ...

是某个数据格式有问题吗？？百思不得其解啊

richardzhu15 · 发表于 2024-9-12 15:20

你吧小数点后面多方几位，就一样了

你是那块小饼干 · 发表于 2024-9-12 15:32

实际没问题

wangyuhu · 发表于 2024-9-12 19:00

要是这么纠结，就设置以显示为准。

		自动登录	找回密码
密码			免费注册

[求助] EXECL选中某列的汇总数与SUM函数求和竟然不相等