ExcelHome技术论坛

 找回密码
 免费注册

QQ登录

只需一步,快速开始

快捷登录

搜索
EH技术汇-专业的职场技能充电站 妙哉!函数段子手趣味讲函数 Excel服务器-会Excel,做管理系统 Excel Home精品图文教程库
HR薪酬管理数字化实战 Excel 2021函数公式学习大典 Excel数据透视表实战秘技 打造核心竞争力的职场宝典
让更多数据处理,一键完成 数据工作者的案头书 免费直播课集锦 ExcelHome出品 - VBA代码宝免费下载
用ChatGPT与VBA一键搞定Excel WPS表格从入门到精通 Excel VBA经典代码实践指南
查看: 218|回复: 4

[求助] VB.NET代码修改问题

[复制链接]

TA的精华主题

TA的得分主题

发表于 2024-4-25 11:30 | 显示全部楼层 |阅读模式

源码为以下内容:
Friend Shared Function ComputeStringHash(s As String) As UInteger
Dim num As UInteger = 2166136261UI
If s IsNot Nothing Then
For i As Integer = 0 To s.Length - 1
num = (CUInt(s(i)) Xor num) * 16777619UI
Next
End If
Return num
End Function

我修改成:
Friend Shared Function ComputeStringHash(s As String) As UInteger
Dim num As UInt64 = 2166136261UL
If s IsNot Nothing Then
For i As Integer = 0 To s.Length - 1
Dim unicodeValue As UInteger = CUInt(AscW(s(i)))
Dim wy As UInt64 = 16777619UL
num = (CULng(unicodeValue) Xor num) * wy
Next
End If
Return CUInt(num And UInteger.MaxValue)
End Function
提示错误“算术运算导致溢出”。。。求广大网络大神指正

TA的精华主题

TA的得分主题

发表于 2024-4-26 15:15 | 显示全部楼层
[广告] Excel易用宝 - 提升Excel的操作效率 · Excel / WPS表格插件       ★免费下载 ★       ★ 使用帮助
UInt64长度是0 到 18,446,744,073,709,551,615的整数,num = (CULng(unicodeValue) Xor num) * wy这段代码多次计算后必然后超出范围。VB可能是溢出后自动取模计算了,在vb.net可以加个判断大于Ulong.MaxValue,用结果num Mod 18446744073709551616取模就行了。需把num定义成更大的数据类型,可以考虑第三方库或者非整型decimal

TA的精华主题

TA的得分主题

 楼主| 发表于 2024-5-1 16:59 | 显示全部楼层
[广告] VBA代码宝 - VBA编程加强工具 · VBA代码随查随用  · 内置多项VBA编程加强工具       ★ 免费下载 ★      ★使用手册
千分之一 发表于 2024-4-26 15:15
UInt64长度是0 到 18,446,744,073,709,551,615的整数,num = (CULng(unicodeValue) Xor num) * wy这段代码 ...

该怎么修改,还请大佬直接修改一下行不?

TA的精华主题

TA的得分主题

 楼主| 发表于 2024-5-2 10:10 | 显示全部楼层
[广告] Excel易用宝 - 提升Excel的操作效率 · Excel / WPS表格插件       ★免费下载 ★       ★ 使用帮助
暮念@ 发表于 2024-5-1 16:59
该怎么修改,还请大佬直接修改一下行不?

image.png 运行到这句就出错了

TA的精华主题

TA的得分主题

发表于 2024-6-1 18:00 | 显示全部楼层
[广告] Excel易用宝 - 提升Excel的操作效率 · Excel / WPS表格插件       ★免费下载 ★       ★ 使用帮助
这个是vb.net吗,一直想学。 貌似都在说c#
您需要登录后才可以回帖 登录 | 免费注册

本版积分规则

手机版|关于我们|联系我们|ExcelHome

GMT+8, 2024-7-15 06:41 , Processed in 0.038423 second(s), 12 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 1999-2023 Wooffice Inc.

沪公网安备 31011702000001号 沪ICP备11019229号-2

本论坛言论纯属发表者个人意见,任何违反国家相关法律的言论,本站将协助国家相关部门追究发言者责任!     本站特聘法律顾问:李志群律师

快速回复 返回顶部 返回列表