ExcelHome技术论坛

 找回密码
 免费注册

QQ登录

只需一步,快速开始

快捷登录

搜索
EH技术汇-专业的职场技能充电站 妙哉!函数段子手趣味讲函数 Excel服务器-会Excel,做管理系统 效率神器,一键搞定繁琐工作
HR薪酬管理数字化实战 Excel 2021函数公式学习大典 Excel数据透视表实战秘技 打造核心竞争力的职场宝典
让更多数据处理,一键完成 数据工作者的案头书 免费直播课集锦 ExcelHome出品 - VBA代码宝免费下载
用ChatGPT与VBA一键搞定Excel WPS表格从入门到精通 Excel VBA经典代码实践指南
查看: 223|回复: 8

[求助] 小弟有一个疑惑,大家给看看

[复制链接]

TA的精华主题

TA的得分主题

发表于 2024-11-26 13:12 | 显示全部楼层 |阅读模式
本帖最后由 lvhongyansao 于 2024-11-26 13:19 编辑

A1单元格写入274149.34

A2单元格写入273988.06
A3单元格写入A1-A2
A4单元格将A3单元格数字粘贴为数值,结果数值是161.280000000028

后续我在A5单元格写入274149.34-273988.06
A6单元格将A5单元格数字粘贴为数值,结果数值也是161.280000000028

A7单元格手动输入161.28,进行判断是否等于A3、A4、A5、A6,结果都是FALSE。

因为什么呢?为什么不是161.28呢,也涉及到浮点吗??

微信截图_20241126130954.png
12312.png

工作簿3.zip

8.53 KB, 下载次数: 2

TA的精华主题

TA的得分主题

发表于 2024-11-26 13:42 | 显示全部楼层
本帖最后由 mountain119 于 2024-11-26 13:47 编辑

就是浮点运算的问题
看下面,两种进制互相转换的过程中,小数部分都可能会有无法完全转换的情况
image.png

TA的精华主题

TA的得分主题

发表于 2024-11-26 14:12 | 显示全部楼层
如果不是原数据问题,就是浮点运算问题

TA的精华主题

TA的得分主题

发表于 2024-11-26 14:15 | 显示全部楼层
[广告] VBA代码宝 - VBA编程加强工具 · VBA代码随查随用  · 内置多项VBA编程加强工具       ★ 免费下载 ★      ★使用手册
围观

TA的精华主题

TA的得分主题

发表于 2024-11-26 14:17 | 显示全部楼层
[广告] Excel易用宝 - 提升Excel的操作效率 · Excel / WPS表格插件       ★免费下载 ★       ★ 使用帮助
浮点数的问题

TA的精华主题

TA的得分主题

发表于 2024-11-26 14:19 | 显示全部楼层
本帖最后由 loirol 于 2024-11-26 14:22 编辑

某些十进制内的有限小数,转成二进制会变无限的,再转回来值就不一样了

这和你怎么计算得出这个数,是计算得出还是手输的都没关系


image.png

TA的精华主题

TA的得分主题

发表于 2024-11-26 16:38 | 显示全部楼层
[广告] Excel易用宝 - 提升Excel的操作效率 · Excel / WPS表格插件       ★免费下载 ★       ★ 使用帮助
浮点运算的问题

TA的精华主题

TA的得分主题

发表于 2024-11-26 19:56 | 显示全部楼层
浮点运算的问题,所以我们日常应用中通常要进行四舍五入

TA的精华主题

TA的得分主题

发表于 2024-11-29 16:27 | 显示全部楼层
您需要登录后才可以回帖 登录 | 免费注册

本版积分规则

手机版|关于我们|联系我们|ExcelHome

GMT+8, 2024-12-27 05:32 , Processed in 0.035973 second(s), 11 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 1999-2023 Wooffice Inc.

沪公网安备 31011702000001号 沪ICP备11019229号-2

本论坛言论纯属发表者个人意见,任何违反国家相关法律的言论,本站将协助国家相关部门追究发言者责任!     本站特聘法律顾问:李志群律师

快速回复 返回顶部 返回列表