vba精度问题

zhang许

yylucke 发表于 2023-4-2 11:33
因为你那个显示为0.1的单元格不是0.1，而是0.09999999

确实耶，我刚看了下，确实是0.09999999，这个是怎么造成的呀

zhang许

yylucke 发表于 2023-4-2 11:33
因为你那个显示为0.1的单元格不是0.1，而是0.09999999

我是从matlab复制来的数据，它上面显示0.1，我复制过来就0.0999999了，请问有什么办法能避免这种情况

zhang许

这个我是从matlab复制过来的，怎么才能复制原来的0.1，而不是0.09999999

yylucke

MatLab本身就是数学计算软件，其精度是很高的。
眼睛看到的并非真实的，如同美颜工具。
关键是你需要多高的精度，从而决定了你采用什么方法。

xunanming

zhang许 发表于 2023-4-2 11:47
这个我是从matlab复制过来的，怎么才能复制原来的0.1，而不是0.09999999

所以你就需要对复制过来的数制做数据处理,达到你想要的浮点数精度.要不就得在matlab上设置浮点数精度.

zhang许

yylucke 发表于 2023-4-2 11:51
MatLab本身就是数学计算软件，其精度是很高的。
眼睛看到的并非真实的，如同美颜工具。
关键是你需要多高 ...

ok，谢谢解答

zhang许

xunanming 发表于 2023-4-2 11:59
所以你就需要对复制过来的数制做数据处理,达到你想要的浮点数精度.要不就得在matlab上设置浮点数精度.

好吧，谢谢解答

zyhui1961

xunanming 发表于 2023-4-2 02:34
应该是浮点数精度的问题,你最好将其四舍五入到你需要的位数.

老师您好！
请你帮忙：下面是我录制的宏的内容，单独运行没有问题。
    Sheets("成绩查询").Select
    Range("AA5:AA69").Select
    Selection.Copy '复制文本
    Range("Z5").Select
    Selection.PasteSpecial Paste:=xlPasteValues, Operation:=xlNone, SkipBlanks _
        :=F
alse, Transpose:=False '粘贴数值
    Range("Z5").Select
可是我加一个工作表事件，为什么就运行不了？
Private Sub Worksheet_Change(ByVal Target As Range) '工作表触发事件
    Set Myrng = Range("A1")   
    Sheets("成绩查询").Select
    Range("AA5:AA69").Select'老是从这个地方开始卡住了
    Selection.Copy '复制文本
    Range("Z5").Select
    Selection.PasteSpecial Paste:=xlPasteValues, Operation:=xlNone, SkipBlanks _
        :=False, Transpose:=False '粘贴数值
    Range("Z5").Select
End Sub