VBA加法问题

饮冰e士

如图，对金额的前3行相加，应该等于0的，用VBA得出的结果为什么是“-4.54747350886464E-13”？
基础不牢地动山摇，不知道这个是什么原因，该如何解决？感谢老师们答疑解惑！




累加问题.zip (14.68 KB, 下载次数: 18)

2024-8-3 11:23 上传

点击文件名下载附件

ynzsvt

无法避免的截断误差，用format格式化取2位。

无关岁月

饮冰e士

ynzsvt 发表于 2024-8-3 11:40
无法避免的截断误差，用format格式化取2位。

从单元格取出来赋值给n1，每一步都通过format或者round处理了，但累加过程中还是会出现科学计数。这是什么原因？

饮冰e士

无关岁月 发表于 2024-8-3 11:46

感谢回复。运行效果和我的一样，莫非是我电脑的原因？

ynzsvt

饮冰e士 发表于 2024-8-3 12:12
从单元格取出来赋值给n1，每一步都通过format或者round处理了，但累加过程中还是会出现科学计数。这 ...

无法避免，只在最后输出时格式化避免一下即可。

饮冰e士

ynzsvt 发表于 2024-8-3 12:26
无法避免，只在最后输出时格式化避免一下即可。

好的，谢谢！

lss001

饮冰e士 发表于 2024-8-3 13:25
好的，谢谢！

数据类型与单元格格式相互作用的结果
首先是数据类型
#或!←浮点型<存在浮点误差>
其次是单元格格式
常规格式←会依随vba数据类型而变化

解决方案
1，使用Format函数/转换数字格式
2，使用自定义格式/锁定数字格式

ww87725244

1. Sub aa()
   
2. Dim ar, i, s#
   
3. With Sheet1
   
4.     ar = .[d2:d5]
   
5.     For i = 1 To UBound(ar)
   
6.         s = s + ar(i, 1)
   
7.     Next
   
8.     MsgBox s
   
9.     .[d6] = s
   
10. End With
    
11. End Sub

复制代码

饮冰e士

lss001 发表于 2024-8-3 15:29
数据类型与单元格格式相互作用的结果
首先是数据类型
#或!←浮点型

感谢回答。


http://www.360doc.com/content/22/1022/20/71724636_1052775161.shtml

刚看了这篇文章，始终知道了一点原理。原来
(5.3-5.4)+1≠0.9
以直以为误差是因为小数位数太多，在舍入时才会产生误差。
实际上，象上面这样一个小学生都能正确计算的加减法，系统居然会认为是错误的!
电脑的世界，真是奇妙。