[讨论]如何消除因浮点运算引起的误差

czjlskl · 发表于 2006-5-11 09:02

虽然对单元格内的数值进行小数位数的限制，但在计算中仍然遇到浮点的困扰，同时也影响到计算的准确度，请问有何良策？

lotus.chu · 发表于 2006-5-11 09:26

round()进行四舍五入

czjlskl · 发表于 2006-5-11 09:39

四舍五入只是运用在最终结果，对减数与被减数的小数位数进行限制后其差值仍存在浮点问题，误差在差值处产生，如何办？

UNARTHUR · 发表于 2006-5-11 09:47

excel限制最多18位的精度，18位以后都会被截断，想解决也不难，首先先要明确你需要多少位的精度，然后把需要计算的数字宪以文本的形式输入，然后把它拆成几个部分分别计算，最后再将计算结果合并起来，仍然以文本的形式输出。当然如果需要很多类似的计算的话也可以通过vba来完成

huyongapple · 发表于 2006-5-11 10:07

使用Decimal数据类型。

UNARTHUR · 发表于 2006-5-11 10:14

楼上正解。

czjlskl · 发表于 2006-5-11 20:13

如何使用Decimal数据类型，比如102.35-100.58=1.77，而不是存在浮点的带若干位小数的一个值

		自动登录	找回密码
密码			免费注册