对取整函数INT的疑问.

北纬37度 · 发表于 2013-11-23 10:40

精度问题吧

yqzxexce · 发表于 2013-11-23 19:17

袁勇发表于 2013-11-23 08:37
为规避浮点运算误差，向上取整公式要强一些。
=CEILING((C3-B3)*D3,1)

学习了，谢谢！！！

准提部林 · 发表于 2013-11-23 20:10

無條件捨去,從會產生浮點的地方四捨五入至基本小數點,
試試:=INT(ROUND(0.3923-0.3798,4)*400)

nkgsm · 发表于 2013-11-24 16:32

不如直接用round函数
=ROUND((0.3923-0.3798)*400,0)

问山8828680 · 发表于 2018-2-13 15:22

虽说一直知道有精度问题
但这样的特例还真是第一次遇倒
长见识了谢谢楼主
看来以后得这样的了
INT(ROUND(((0.3923-0.3798)*400),10))

		自动登录	找回密码
密码			免费注册

[求助] 对取整函数INT的疑问.