ExcelHome技术论坛

 找回密码
 免费注册

QQ登录

只需一步,快速开始

快捷登录

搜索
EH技术汇-专业的职场技能充电站 妙哉!函数段子手趣味讲函数 Excel服务器-会Excel,做管理系统 Excel Home精品图文教程库
HR薪酬管理数字化实战 Excel 2021函数公式学习大典 Excel数据透视表实战秘技 打造核心竞争力的职场宝典
300集Office 2010微视频教程 数据工作者的案头书 免费直播课集锦 ExcelHome出品 - VBA代码宝免费下载
用ChatGPT与VBA一键搞定Excel WPS表格从入门到精通 Excel VBA经典代码实践指南
查看: 1158|回复: 1

[讨论] 单精度、双精度浮点型原来和小数位数没关系

[复制链接]

TA的精华主题

TA的得分主题

发表于 2019-11-11 20:21 | 显示全部楼层 |阅读模式
[广告] VBA代码宝 - VBA编程加强工具 · VBA代码随查随用  · 内置多项VBA编程加强工具       ★ 免费下载 ★      ★使用手册
本帖最后由 HHAAMM 于 2019-11-11 20:27 编辑

本人用VBA一般只重视实现,不求甚解,原来总以为什么浮点型、精确什么的都和小数精度有关。刚刚处理一个问题才注意到,所谓的精度好像是整个数据的精度,并不是精确到多少位小数。

  1. Sub test()
  2.     Dim a1 As Single
  3.     Dim a2 As Single
  4.     Dim b1 As Double
  5.     Dim b2 As Double
  6.     a1 = 123456.789123457
  7.     a2 = 1.23456789123457
  8.     b1 = 123456.789123457
  9.     b2 = 1.23456789123457
  10.     MsgBox "单精度浮点型" & vbCr & a1 & vbCr & a2 & vbCr & " 双度精浮点型" & vbCr & b1 & vbCr & b2
  11. End Sub
复制代码
捕获.JPG
坛友们别笑话哦,这么弱智的问题发上来,只是自己感觉以前真没注意到,太想当然了。
也不知道理解的对不对望大家斧正。

TA的精华主题

TA的得分主题

发表于 2019-11-12 14:18 | 显示全部楼层
[广告] VBA代码宝 - VBA编程加强工具 · VBA代码随查随用  · 内置多项VBA编程加强工具       ★ 免费下载 ★      ★使用手册
这个度娘一下就能找到的知识,我也不复制粘贴了。
您需要登录后才可以回帖 登录 | 免费注册

本版积分规则

关闭

最新热点上一条 /1 下一条

手机版|关于我们|联系我们|ExcelHome

GMT+8, 2024-4-19 09:22 , Processed in 0.036543 second(s), 12 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 1999-2023 Wooffice Inc.

沪公网安备 31011702000001号 沪ICP备11019229号-2

本论坛言论纯属发表者个人意见,任何违反国家相关法律的言论,本站将协助国家相关部门追究发言者责任!     本站特聘法律顾问:李志群律师

快速回复 返回顶部 返回列表