ExcelHome技术论坛

 找回密码
 免费注册

QQ登录

只需一步,快速开始

快捷登录

搜索
EH技术汇-专业的职场技能充电站 妙哉!函数段子手趣味讲函数 Excel服务器-会Excel,做管理系统 Excel Home精品图文教程库
HR薪酬管理数字化实战 Excel 2021函数公式学习大典 Excel数据透视表实战秘技 打造核心竞争力的职场宝典
300集Office 2010微视频教程 数据工作者的案头书 免费直播课集锦 ExcelHome出品 - VBA代码宝免费下载
用ChatGPT与VBA一键搞定Excel WPS表格从入门到精通 Excel VBA经典代码实践指南
查看: 1883|回复: 7

[求助] 为什么56.01-56=0.00999999999999801?希望知道的朋友帮忙解答一下。

[复制链接]

TA的精华主题

TA的得分主题

发表于 2015-3-31 13:33 | 显示全部楼层 |阅读模式
本帖最后由 星语心愿 于 2015-3-31 14:35 编辑

  我在计算学校统考成绩的时候,同样的公式,可是遇到的三个结果让人琢磨不透,希望知道的朋友帮忙看看,谢谢。
请看三张工作表:《三年级数学》中的“戈乐大寨小学”一行的“M9”单元格,《七年级生物》中的“双华小学”一行的“M6”单元格,《七年级政治》中的“双华小学”一行的“M6”单元格,用公式计算的结果是和实际的结果不相同,如果用粘贴数值的方法粘贴到别的单元格就会出错。比如“戈乐大寨小学”一行的“M9”单元格,显示的结果是0.01,可粘贴为数值到别的单元格,显示的就是0.00999999999999801,想请教一下朋友们,是什么原因造成的,应该如何解决或者避免?谢谢大家。
这是我粘贴为数值到其他表格中的情况。
QQ截图20150331132511.png


QQ截图20150331135015.png
QQ截图20150331135026.png
QQ截图20150331135033.png

即使被减数用手工输入56.01,减数输入56,得出的结果同样是那一大串,这不合理啊。

岔河镇中心校2014年秋季学期学科统计成绩统计表.zip (102.76 KB, 下载次数: 6) 请查看附件



TA的精华主题

TA的得分主题

发表于 2015-3-31 13:35 | 显示全部楼层
[广告] Excel易用宝 - 提升Excel的操作效率 · Excel / WPS表格插件       ★免费下载 ★       ★ 使用帮助
在运算式外套一个ROUND函数,进行修约,比如ROUND(56.01-56,2)

TA的精华主题

TA的得分主题

 楼主| 发表于 2015-3-31 13:41 | 显示全部楼层
本帖最后由 星语心愿 于 2015-3-31 13:46 编辑

关键是这么多学校,这么多科目,怎么偏偏就是这几个会出问题呢?而且,被减数和减数粘贴为数值,都最多才是两位数啊。还是不太明白。即使被减数用手工输入56.01,减数输入56,得出的结果同样是那一大串,这不合理啊。

TA的精华主题

TA的得分主题

发表于 2015-3-31 14:32 | 显示全部楼层
浮点运算误差,这是常有的事,用ROUND函数套一下就解决.

TA的精华主题

TA的得分主题

 楼主| 发表于 2015-3-31 14:37 | 显示全部楼层
[广告] Excel易用宝 - 提升Excel的操作效率 · Excel / WPS表格插件       ★免费下载 ★       ★ 使用帮助
wshcw 发表于 2015-3-31 14:32
浮点运算误差,这是常有的事,用ROUND函数套一下就解决.

哎,公式以多,关键是想知道什么时候会出现浮点运算误差?要不不知道什么情景下会出现啊?

TA的精华主题

TA的得分主题

发表于 2015-3-31 14:43 | 显示全部楼层
[广告] Excel易用宝 - 提升Excel的操作效率 · Excel / WPS表格插件       ★免费下载 ★       ★ 使用帮助
你之前有使用过除法,在除法那运用round保留2为小数就好了

TA的精华主题

TA的得分主题

发表于 2015-5-5 09:49 | 显示全部楼层

TA的精华主题

TA的得分主题

发表于 2015-5-5 09:51 | 显示全部楼层
[广告] Excel易用宝 - 提升Excel的操作效率 · Excel / WPS表格插件       ★免费下载 ★       ★ 使用帮助
浮点运算问题,基本上所有基于2机制的软件都有此问题,不仅仅是excel有。
您需要登录后才可以回帖 登录 | 免费注册

本版积分规则

手机版|关于我们|联系我们|ExcelHome

GMT+8, 2024-3-28 19:42 , Processed in 0.047701 second(s), 10 queries , Gzip On, Redis On.

Powered by Discuz! X3.4

© 1999-2023 Wooffice Inc.

沪公网安备 31011702000001号 沪ICP备11019229号-2

本论坛言论纯属发表者个人意见,任何违反国家相关法律的言论,本站将协助国家相关部门追究发言者责任!     本站特聘法律顾问:李志群律师

快速回复 返回顶部 返回列表