危险的MOD函数，我上当得很厉害呀！

针锦菜

我上当得很厉害呀！
       (0.94*10) MOD 10  它的值将是什么?
    很简单: 0.94*10=9.4 。 9.4再对10取模，肯定是9
   如果在0.94的基础上再加一点，比如0.01也就是0.95它将又会是什么呢?
          (0.95*10) MOD 10  它的值将是什么?
大家先别这么快作答。让电脑算过才说话。

胡剑0227

原帖由 针锦菜 于 2010-6-8 05:06 发表
我上当得很厉害呀！
       (0.94*10) MOD 10  它的值将是什么?
    很简单: 0.94*10=9.4 。 9.4再对10取模，肯定是9

是吗，呵呵

是否单元格格式作祟呀。
你试试看呢
我这里 MOD((0.94*10) ,10)=9.4,MOD((0.95*10),10)=9.5.

很正常呀。

[ 本帖最后由 胡剑0227 于 2010-6-8 06:00 编辑 ]

xihabang

(0.94*10) MOD 10

好像是vba 里面的吧

cflood

有什么问题？

山菊花

这不是MOD的错，是浮点运算的错。下面两段代码，因变量类型不同，结果不相同：
Dim a As Variant
a = 0.95
Debug.Print (a * 10) Mod 10
上面代码运行的结果显示是0，下面代码运行的结果是9：
Dim a As Double
a = 0.95
Debug.Print (a * 10) Mod 10

一的二倍

原帖由 山菊花 于 2010-6-8 08:27 发表
这不是MOD的错，是浮点运算的错。下面两段代码，因变量类型不同，结果不相同：
Dim a As Variant
a = 0.95
Debug.Print (a * 10) Mod 10
上面代码运行的结果显示是0，下面代码运行的结果是9：
Dim a As Double
...

謝謝斑竹的解釋。

胡剑0227

原帖由 xihabang 于 2010-6-8 06:50 发表
(0.94*10) MOD 10

好像是vba 里面的吧

哦，是啊，呵呵。开始也感觉这个写法 怎么这么怪呀，呵呵

针锦菜

还是山菊老师细心。
我的一段代码，本来结果是0.9588的,因为关系到凑整的问题。
在接下来的判断语句里面，直接给0掉了。这可是钱来的呀！
所以说“上当得很厉害呀！”
到发现时，已经造成损失了。
后面只得把语句改成对1000取余了。
即成 (0.95*1000) MOD 1000
都是没有经验造成的。

针锦菜

谢谢山菊老师的讲解。

lbpp

原帖由 山菊花 于 2010-6-8 08:27 发表
这不是MOD的错，是浮点运算的错。下面两段代码，因变量类型不同，结果不相同：
Dim a As Variant
a = 0.95
Debug.Print (a * 10) Mod 10
上面代码运行的结果显示是0，下面代码运行的结果是9：
Dim a As Double
...

虽然在VBA中测试结果和山菊花老是的结果一致，但是还是搞不清楚为什么前一个答案会是0？  浮点运算到底错在了哪里？从上例来看也就是前个例子中变体类型中存放的是一个大于等于0.95的近似值，而后一个双精度型中存放的是一个小于0.95的近似值。
然而如果将数值由0.95改为0.75，得到的结果都为8，这个看来似乎后面的双精神类型中存放的又是一个大于等于0.75的值，也就是说存放进双精度类型的值无法预测？
这个问题该如何解决？

[ 本帖最后由 lbpp 于 2010-6-9 14:51 编辑 ]