555和556有什么区别，为什么为溢出？

老伙计2008

Sub kkk()
Dim iMinutes As Byte, iSeconds As Long
iSeconds = iMinutes * 556   ‘溢出
iSeconds = iMinutes * 555   ‘正常
End Sub
只差那么一点点 555和556对数据类型有什么影响呢？

cflood

我的没溢出

lb_bn

我的也没溢出，楼主的cpu有问题？？？

老伙计2008

不好意思，丢了一行代码
下面是正确的
Private Sub kkk()
    Dim iMinutes As Byte, iSeconds As Long

    iMinutes = 59
    iSeconds = iMinutes * 555
    iSeconds = iMinutes * 556
End Sub

老伙计2008

还想等号后面的值大于32745就不行

正确结果应该为32804

lb_bn

byte上去是integer
超过 2^15 -1 就溢出了。

cflood

59*555=32745<32767
59*556=32804>32767
Integer 范围是 -32,768 到 32,767 之间的数字
Private Sub kkk()
    Dim iMinutes As Byte, iSeconds As Long
    iMinutes = 59
    iSeconds = iMinutes * 32768
    iSeconds = iMinutes * 32768
End Sub
正常
也就是说小于32767的常数系统认为是interger，大于的认为是long

老伙计2008

正解

灰袍法师

因为VBA做乘法运算的时候，取最精确的乘数作为结果的数据类型
所以以下乘法表达式是一定溢出的
16384 * 2  (最精确的乘数是16384 = Int类型, 而结果32768 超过Int的最大范围)
65535*65535 (最精确的乘数是65535 = Long, 而结果超过Long的最大范围

以此类推
要避免这类错误，必须将其中一个乘数强制指定为足够大的数据类型
或者简单地加一位小数点，如 *2 写成 *2.0, 就可以保证结果的数据类型足够精确
注意: 这里起作用的是 乘数 的数据类型，而不是结果的数据类型
所以 dim x as double
x= 16384 * 2
还是会溢出的

VBA帮助节录......................
* 运算符
用来将两数相乘。
语法
result = number1*number2
说明
result 的数据类型通常与最精确的表达式的数据类型相同。精确度由最低到最高的顺序是
Byte、 Integer、Long、Single、Currency、Double 和 Decimal。下列情况是例外：

lb_bn

有写的C的习惯的话就少有溢出了。