小数精度问题

guomfeh · 发表于 2023-1-8 22:31

关于excel中数字精度问题，哪位大佬可以帮忙解释下关于小数尾数精度问题。
两万多个数字，求和跑出来好几个答案。

guomfeh · 发表于 2023-1-8 22:42

本帖最后由 guomfeh 于 2023-1-8 22:45 编辑

这些数据是四舍五入之后的，未舍去之前求和为0

taller · 发表于 2023-1-9 02:32

VBA不是科学计算语言

jz_l · 发表于 2023-1-9 14:21

tanglf188 · 发表于 2023-1-9 15:38

你正负数是相等的，运算结果就是0，小数点后面的是计算机计算的时候自己带出来的，因为计算机会并不会直接十进制计算，带出来的小数就是十进制与二进制互转的时候多出来的，你算好后用round函数保留小数就行了。或者先算大于零的和，再算小于0的和，两者相减

tanglf188 · 发表于 2023-1-9 15:50

Sub summ()
last = Sheet1.Range("A" & Rows.Count).End(xlUp).Row
a = Round(Application.Sum(Sheet1.Range("A2:A" & last)), 2)
s = CDec(a)
r = CDbl(a)
w = CSng(a)
MsgBox "a:" & a & Chr(10) & "s:" & s & Chr(10) & "r:" & r & Chr(10) & "w:" & w
End Sub

		自动登录	找回密码
密码			免费注册

[求助] 小数精度问题

评分

评分