ExcelHome技术论坛

 找回密码
 免费注册

QQ登录

只需一步,快速开始

快捷登录

搜索
EH技术汇-专业的职场技能充电站 妙哉!函数段子手趣味讲函数 Excel服务器-会Excel,做管理系统 效率神器,一键搞定繁琐工作
HR薪酬管理数字化实战 Excel 2021函数公式学习大典 Excel数据透视表实战秘技 打造核心竞争力的职场宝典
让更多数据处理,一键完成 数据工作者的案头书 免费直播课集锦 ExcelHome出品 - VBA代码宝免费下载
用ChatGPT与VBA一键搞定Excel WPS表格从入门到精通 Excel VBA经典代码实践指南
查看: 3412|回复: 3

请帮我看看这个浮点运算的问题怎么解决?

[复制链接]

TA的精华主题

TA的得分主题

发表于 2007-6-19 13:42 | 显示全部楼层 |阅读模式
[广告] VBA代码宝 - VBA编程加强工具 · VBA代码随查随用  · 内置多项VBA编程加强工具       ★ 免费下载 ★      ★使用手册

一共有两个问题,分别在代码中,请帮我看一样,问题的原因是浮点数的精度,但不知如何解决!

Option Explicit
Const SPGZ As Integer = 22070  '社平工资(2006年)

Function 社会保险(nJfgz As Single, Optional nType As Integer)
   
    Const YlJfbl As Single = 0.08   '养老保险个人缴费比例 8%
    Const SyJfbl As Single = 0.01   '失业保险个人缴费比例 1%
    Const YlbxJfbl As Single = 0.02 '医疗保险缴费比例 2%
   
   
    '问题1:为什么将High定义为整形时,运行到(注1)是就退出,但如果定义为single时,就可以正常运行?
'    Const High As Integer = 3
    Const High As Single = 3        '缴费上限为社平工资的300%
    Const Low As Single = 0.6       '缴费下限为社平工资的60%
   
    Dim jfbl As Single              '缴费比例(根据选择类型返回相应的个人缴纳保险额)
   
    Dim temp As Single              '存放结果的临时变量

    Select Case nType
        Case 0                      '养老保险(默认值)
            jfbl = YlJfbl
        Case 1                      '失业保险
            jfbl = SyJfbl
        Case 2                      '医疗保险
            jfbl = YlbxJfbl
    End Select

    If nJfgz < SPGZ * Low Then
        temp = SPGZ * Low * jfbl / 12   '低于最低缴费基数
       
    '(注1)
    ElseIf nJfgz > (SPGZ * High) Then
   
    '问题2:由于temp为浮点型,因此下面的语句运行后结果为55.17499924,四舍五入后结果为55.17,
    '如果把下面语句的全部变量直接用数值来替代,也就是22070*3*0.01/12,则结果为55.175,四舍五入后结果为55.18。
    '这个问题应该如何解决?

        temp = SPGZ * High * jfbl / 12  '高于最高缴费基数
    Else
        temp = nJfgz * jfbl / 12
    End If
   
    社会保险 = temp
   
End Function

LKGwiGUr.rar (7.43 KB, 下载次数: 9)
[此贴子已经被作者于2007-6-19 13:45:01编辑过]

TA的精华主题

TA的得分主题

发表于 2007-6-19 14:03 | 显示全部楼层
[广告] VBA代码宝 - VBA编程加强工具 · VBA代码随查随用  · 内置多项VBA编程加强工具       ★ 免费下载 ★      ★使用手册

第一个问题,

如果你用INTEGER的话,将 ElseIf nJfgz > (SPGZ * High) Then 改为 ElseIf nJfgz > (SPGZ * clng(High)) Then 即可,原因可以查下帮助,这和VB的运算规则有关。

第二个问题,我跑了一下,程序结果就是55.175,没有错误。问题应该是你做四舍五入的问题上??你用什么函数的?

TA的精华主题

TA的得分主题

 楼主| 发表于 2007-6-19 14:24 | 显示全部楼层
QUOTE:
以下是引用ikolo在2007-6-19 14:03:48的发言:

第一个问题,

如果你用INTEGER的话,将 ElseIf nJfgz > (SPGZ * High) Then 改为 ElseIf nJfgz > (SPGZ * clng(High)) Then 即可,原因可以查下帮助,这和VB的运算规则有关。

第二个问题,我跑了一下,程序结果就是55.175,没有错误。问题应该是你做四舍五入的问题上??你用什么函数的?

第一个问题中安您的方法的确通过了,但还是不知道是为什么,查找帮助也没找到相关资料。

第二个问题,我又试了一下,在程序运行过程中,temp的确为55.175,但当用函数名返回数值时变成了

55.17499924
,看起来是返回结果中变成这样了,那么这个问题该如何解决?如何才能让返回的值为55.175?

即使我在返回前对temp进行round,但结果还是不对。

TA的精华主题

TA的得分主题

发表于 2007-6-19 15:32 | 显示全部楼层
QUOTE:
以下是引用lbpp在2007-6-19 14:24:29的发言:

第一个问题中安您的方法的确通过了,但还是不知道是为什么,查找帮助也没找到相关资料。

第二个问题,我又试了一下,在程序运行过程中,temp的确为55.175,但当用函数名返回数值时变成了

55.17499924
,看起来是返回结果中变成这样了,那么这个问题该如何解决?如何才能让返回的值为55.175?

即使我在返回前对temp进行round,但结果还是不对。

不是自定义函数出的问题!

B8=ROUND(社会保险(A8,1),3)

您需要登录后才可以回帖 登录 | 免费注册

本版积分规则

手机版|关于我们|联系我们|ExcelHome

GMT+8, 2024-11-24 18:45 , Processed in 0.040138 second(s), 11 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 1999-2023 Wooffice Inc.

沪公网安备 31011702000001号 沪ICP备11019229号-2

本论坛言论纯属发表者个人意见,任何违反国家相关法律的言论,本站将协助国家相关部门追究发言者责任!     本站特聘法律顾问:李志群律师

快速回复 返回顶部 返回列表