危险的MOD函数，我上当得很厉害呀！

lhx120824 · 发表于 2010-6-9 14:54

问题研究的真细。

wu_xr2010 · 发表于 2010-6-9 17:03

嘿嘿，有用哦！

coby001 · 发表于 2010-6-9 22:54

(0.95*10.0) mod 10.0

看看，vb里的数据类型强制转换

[ 本帖最后由 coby001 于 2010-6-9 22:55 编辑 ]

夏雨祁 · 发表于 2010-6-9 23:02

跟着两位版版和高手们学习。

coby001 · 发表于 2010-6-9 23:20

Sub testMod()
Dim a#
Dim b#
a = 0.95
b = 10
Debug.Print (a * b) Mod b
End Sub

必须所有参与计算的变量都显式的声明为双精度类型，结果就正确，否则，就有可能在类型转换的时候“失真”。

name004 · 发表于 2010-6-9 23:48

还真没听说过用长，知道浮点运算，不知其所以然

hfstx · 发表于 2010-6-10 08:33

长见识了长见识了长见识了

lbpp · 发表于 2010-6-10 10:39

原帖由 coby001 于 2010-6-9 23:20 发表
Sub testMod()
Dim a#
Dim b#
a = 0.95
b = 10
Debug.Print (a * b) Mod b
End Sub

必须所有参与计算的变量都显式的声明为双精度类型，结果就正确，否则，就有可能在类型转换的时候“ ...

刚看了mod的帮助，
Mod 运算符Mod 运算符
用来对两个数作除法并且只返回余数。
语法
result = number1 Mod number2
Mod 的语法具有以下几个部分：

部分	描述
result	必需的；任何数值变量。
number1	必需的；任何数值表达式。
number2	必需的；任何数值表达式。

说明
在进行 Mod 运算或求余数运算时，该运算符将 number1 用 number2 除（将浮点数字四舍五入成整数），并把余数作为 result 的值返回。例如，在下列表达式中，A (result) 等于 5。
A = 19 Mod 6.7一般说来，不管 result 是否为一个整数，result 的数据类型为 Byte，Byte 变体、Integer、Integer 变体、Long 或一个包含 Long 的Variant。任何小数部分都被删除。但是，如果任何一个 Null，类型的表达式出现时，result 都将是 Null。任何 Empty 类型表达式都作为 0 处理。

从mod运算的帮助来看，楼主的问题其实可以回答得很明确了。0.95*10=9.5，在进行mod运算前会将9.5进行四舍五入，这里就变成了10 mod 10，这样答案当然为0，这是正确的。
在这里我们需要注意一点就是VBA中的四舍五入采用的是银行家算法，也就是“四舍六入五判断，五后非零则进入，五后为零看奇偶，奇进偶不进”，因为如果用0.85来计算的话会得到8而不是9。具体可看我以前的一个贴子。http://club.excelhome.net/viewthread.php?tid=264823&replyID=&skin=0

楼主的问题到这里应该已经解决了。

但山菊花老是的示例又带来了一个新的问题，就是我前面已经描述过的问题。前面可能描述得不清楚，这里再重新描述一下。
示例1（山菊花老师提供的例子）

Sub ex1()
Dim a As Variant
a = 0.95
Debug.Print (a * 10) Mod 10
Dim b As Double
b = 0.95
Debug.Print (b * 10) Mod 10
End Sub

复制代码

得到的结果为 0 和 9

同样的例子，将数值改为0.75

Sub ex2()
Dim a As Variant
a = 0.75
Debug.Print (a * 10) Mod 10
Dim b As Double
b = 0.75
Debug.Print (b * 10) Mod 10
End Sub

复制代码

得到的结果却全是8。

也就是说浮点数中实际存放的值只是近似于真被值的一个数，但可能比真被值大，也可能比真实值小。而不是我以前理解为要么全部大于真实值，要么全部小于真实值。如果真的如我上面的说法一样的话，那么在涉及浮点数运算过程中，真的得小心小心再小心了。有点怕怕。

[ 本帖最后由 lbpp 于 2010-6-10 12:12 编辑 ]

		自动登录	找回密码
密码			免费注册

[分享] 危险的MOD函数，我上当得很厉害呀！

长见识了

评分