VBA加法问题

饮冰e士

(5.3-5.4)+1,直接计算，或者用round函数保留小数15位及以上，都会产生浮点误差，导致结果不等于0.9。
用round函数保留小数1至14位，才可以得到精确的与0.9相等的结果。

饮冰e士

这样，就又有一个疑问了，是否会产生浮点误差，是否有规律来判断？

比如这个 (5.3-5.4)+1 ，按我们的常识，等于0.9是毫无疑问的，但系统偏偏有误差。
应该不是所有的浮点数参与运算都有误差的吧？
什么样的计算会产生浮点误差，什么样的计算不会出现误差，是否有规律进行预判呢？

饮冰e士

原来针对这个问题，系统特意准备了应对的措施，俺居然不知道!
这真是：
面壁十年不破壁，关键时刻干着急!

lss001

饮冰e士 发表于 2024-8-3 18:13
原来针对这个问题，系统特意准备了应对的措施，俺居然不知道!
这真是：
面壁十年不破壁，关 ...

既然可改变→变量数据类型
声明货币类型变量是一种方法
如→Dim n1@, n2@, n3@

如果不改变→变量数据类型
使用Format函数也是一种方法
如→Range("D6") = Format(n3, "@")