ExcelHome技术论坛

 找回密码
 免费注册

QQ登录

只需一步,快速开始

快捷登录

搜索
EH技术汇-专业的职场技能充电站 妙哉!函数段子手趣味讲函数 Excel服务器-会Excel,做管理系统 Excel Home精品图文教程库
HR薪酬管理数字化实战 Excel 2021函数公式学习大典 Excel数据透视表实战秘技 打造核心竞争力的职场宝典
300集Office 2010微视频教程 数据工作者的案头书 免费直播课集锦 ExcelHome出品 - VBA代码宝免费下载
用ChatGPT与VBA一键搞定Excel WPS表格从入门到精通 Excel VBA经典代码实践指南
查看: 7965|回复: 6

浮点数:单精度、双精度,之间的比较,相等。极限,无穷小

[复制链接]

TA的精华主题

TA的得分主题

发表于 2014-10-31 00:18 | 显示全部楼层 |阅读模式
本帖已被收录到知识树中,索引项:数据类型和基本语句
本帖最后由 coby001 于 2014-10-31 00:38 编辑

浮点数:单精度、双精度,之间的比较,相等。极限:无穷小

经常有人感到奇怪,两个浮点数明明看起来一样的,但在比较它们是否相等时,结果却是False。

在数学的极限概念中,有两个符号:无穷小 ε 、无穷大
无穷小 ε ,读作:“艾普西隆”,Epsilon。

在电子计算机中,浮点数能识别的最小精度,就是该精度的 无穷小。
单精度(32位)的 无穷小:flt_Epsilon = 2^-23 =1.190928955078125e-7, 约等于1.19092896e-7 。
双精度(64位)的 无穷小:dbl_Epsilon = 2^-52,约等于2.2204460492503131e-016 。

所以,浮点数在比较是否相等时,要这么写:


const flt_Epsilon! = 1.192093E-07 ' 单精度无穷小
dim f1!,f2!
f1=timer
f2=timer
if abs(f1 - f2 )<= flt_Epsilon then
    msgbox "相等"
else
    msgbox "不相等"
endif


-------------------
双精度也类似。

TA的精华主题

TA的得分主题

发表于 2014-11-1 18:04 | 显示全部楼层
小数是没有最小递增的……这个类似于自然数的最小递增1……说来,我们使用的数都是不完全数,是数的海洋中的一部分,您所说的这个“该精度下的无穷小”似乎就可以理解为一种实际存在的最小递增……
不知,可否这样理解?

TA的精华主题

TA的得分主题

 楼主| 发表于 2014-11-1 18:25 | 显示全部楼层
aoe1981 发表于 2014-11-1 18:04
小数是没有最小递增的……这个类似于自然数的最小递增1……说来,我们使用的数都是不完全数,是数的海洋中的 ...

在计算机中,浮点数都是近似值
位数越多越精确,也越逼近理论值。
一尺之棰,日取其半,万世不竭。这就是无限逼近的极限概念~

TA的精华主题

TA的得分主题

发表于 2018-2-2 09:34 | 显示全部楼层

TA的精华主题

TA的得分主题

发表于 2018-10-25 22:22 | 显示全部楼层

TA的精华主题

TA的得分主题

发表于 2020-1-14 19:46 | 显示全部楼层

TA的精华主题

TA的得分主题

发表于 2021-1-18 16:54 | 显示全部楼层
[广告] Excel易用宝 - 提升Excel的操作效率 · Excel / WPS表格插件       ★免费下载 ★       ★ 使用帮助
我竟然什么都 看不懂哈,但也看一遍啊呀
您需要登录后才可以回帖 登录 | 免费注册

本版积分规则

关闭

最新热点上一条 /1 下一条

手机版|关于我们|联系我们|ExcelHome

GMT+8, 2024-4-20 13:45 , Processed in 0.032855 second(s), 10 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 1999-2023 Wooffice Inc.

沪公网安备 31011702000001号 沪ICP备11019229号-2

本论坛言论纯属发表者个人意见,任何违反国家相关法律的言论,本站将协助国家相关部门追究发言者责任!     本站特聘法律顾问:李志群律师

快速回复 返回顶部 返回列表