[建议]用函数公式的指定有效位数的数值修约(2004.11.26有新内容1楼)

chenjun · 发表于 2004-10-20 00:42

经常有网友提出按GB8170的规则并指定有效位数进行数值修约，这个修约规则好象与ISO的国际标准等效，不知为什么excel中没有直接的函数，附件中提供了一个用函数公式的解决方法，会VBA的朋友也可以按这个思路自编一个自定义函数。对附件中的公式应该还可以优化，请大家讨论。附件中为了充分体现出excel的15位有效数对单元格用了科学记数格式，实际使用中可以改为其他的格式。相关帖子链接：http://club.excelhome.net/dispbb ... p;skin=0&page=2

[此贴子已经被作者于2004-11-29 23:13:06编辑过]

wx_feng · 发表于 2004-10-22 07:18

理论很高深，一时不能理解，先收下，以后会用的着。

chenjun · 发表于 2004-11-4 23:11

以下是引用wx_feng在2004-10-22 7:18:00的发言：

理论很高深，一时不能理解，先收下，以后会用的着。

你是wssf吧？直接问问题！

shangyu · 发表于 2004-11-4 23:13

嗨。。自定义函数都不用编，VBA中的round函数就是四舍六入五单双的。

chenjun · 发表于 2004-11-4 23:24

不是的，你可以看我在office精英俱乐部的回复帖子。

shangyu · 发表于 2004-11-5 00:21

MORE INFORMATION

The Round() function in an Excel spreadsheet uses Arithmetic rounding, which always rounds .5 up (away from 0). The Round() function in Visual Basic for Applications 6, uses Banker's rounding, which rounds .5 either up or down, whichever will result in an even number.

Debug.Print VBA.Round(1.245, 2)=1.25

连microsoft都不对，昏倒哦。。。

chenjun · 发表于 2004-11-5 00:39

我还以为是excel2000版的问题，你的2003版也同样是这样！会不会是转换为双精度值时的转换误差，我还没有试过。

bosco_yip · 发表于 2004-11-18 18:20

chenjun 斑竹,

可用 Stephen Bullen公式

單元格B7, 公式向下拖:

=MROUND(A7,IF(--(RIGHT(A7/10^(INT(LOG(ABS(A7)))-$C$6+1),2))=0.5,2,1)*SIGN(A7)*10^(INT(LOG(ABS(A7)))-$C$6+1))

chenjun · 发表于 2004-11-18 18:36

公式有2个问题，一是不能对零值，另一个是， =MROUND(0.002375,IF(--(RIGHT(0.002375/10^(INT(LOG(ABS(0.002375)))-2+1),2))=0.5,2,1)*SIGN(0.002375)*10^(INT(LOG(ABS(0.002375)))-2)) 返回0.00237，正确的是0.00238

bosco_yip · 发表于 2004-11-19 00:11

1) 零值问题

公式返回#NUM! 是对的,因为选择保留的有效位数值,和原数值, "0" 不匹配

		自动登录	找回密码
密码			免费注册