小数精度

tpb123 · 发表于 2023-11-3 17:08

老师们好，请教一下，(80.4-75)/0.6理论上是等于9的，但是还是实际上还是存在小数精度问题，加上cdec也是不行，这个有没有比较好的解决办法呢？貌似挺多数据都会有这个精度问题，有没有好的思路或者代码，可以解决此类问题的！

perfect131 · 发表于 2023-11-4 11:54

看似“小事”、实则“大问题”

micch · 发表于 2023-11-4 12:22

套一个round函数，如果不是高精度计算，round舍入后也就够了

he577 · 发表于 2023-11-7 14:16

VBA.CSng((80.4-75)/0.6)

		自动登录	找回密码
密码			免费注册

[讨论] 小数精度