ExcelHome技术论坛

 找回密码
 免费注册

QQ登录

只需一步,快速开始

EH搜索     
EH云课堂-专业的职场技能充电站 Excel转在线管理系统,怎么做看这里 Excel服务器-会Excel,做管理系统 Excel Home精品图文教程库
Excel不给力? 何不试试FoxTable! Excel 2016函数公式学习大典 EH云课堂直播课程免费学 打造核心竞争力的职场宝典
300集Office 2010微视频教程 Tableau-数据可视化工具 精品推荐-800套精选PPT模板,点击获取 ExcelHome出品 - VBA代码宝免费下载
你的Excel 2010实战技巧学习锦囊 欲罢不能, 过目难忘的 Office 新界面 Excel VBA经典代码实践指南
查看: 1504|回复: 7

[求助] 为什么56.01-56=0.00999999999999801?希望知道的朋友帮忙解答一下。

[复制链接]

TA的精华主题

TA的得分主题

发表于 2015-3-31 13:33 | 显示全部楼层 |阅读模式
本帖最后由 星语心愿 于 2015-3-31 14:35 编辑

  我在计算学校统考成绩的时候,同样的公式,可是遇到的三个结果让人琢磨不透,希望知道的朋友帮忙看看,谢谢。
请看三张工作表:《三年级数学》中的“戈乐大寨小学”一行的“M9”单元格,《七年级生物》中的“双华小学”一行的“M6”单元格,《七年级政治》中的“双华小学”一行的“M6”单元格,用公式计算的结果是和实际的结果不相同,如果用粘贴数值的方法粘贴到别的单元格就会出错。比如“戈乐大寨小学”一行的“M9”单元格,显示的结果是0.01,可粘贴为数值到别的单元格,显示的就是0.00999999999999801,想请教一下朋友们,是什么原因造成的,应该如何解决或者避免?谢谢大家。
这是我粘贴为数值到其他表格中的情况。
QQ截图20150331132511.png


QQ截图20150331135015.png
QQ截图20150331135026.png
QQ截图20150331135033.png

即使被减数用手工输入56.01,减数输入56,得出的结果同样是那一大串,这不合理啊。

岔河镇中心校2014年秋季学期学科统计成绩统计表.zip (102.76 KB, 下载次数: 6)

TA的精华主题

TA的得分主题

发表于 2015-3-31 13:35 | 显示全部楼层
在运算式外套一个ROUND函数,进行修约,比如ROUND(56.01-56,2)

TA的精华主题

TA的得分主题

 楼主| 发表于 2015-3-31 13:41 | 显示全部楼层
本帖最后由 星语心愿 于 2015-3-31 13:46 编辑

关键是这么多学校,这么多科目,怎么偏偏就是这几个会出问题呢?而且,被减数和减数粘贴为数值,都最多才是两位数啊。还是不太明白。即使被减数用手工输入56.01,减数输入56,得出的结果同样是那一大串,这不合理啊。

TA的精华主题

TA的得分主题

发表于 2015-3-31 14:32 | 显示全部楼层
浮点运算误差,这是常有的事,用ROUND函数套一下就解决.

TA的精华主题

TA的得分主题

 楼主| 发表于 2015-3-31 14:37 | 显示全部楼层
wshcw 发表于 2015-3-31 14:32
浮点运算误差,这是常有的事,用ROUND函数套一下就解决.

哎,公式以多,关键是想知道什么时候会出现浮点运算误差?要不不知道什么情景下会出现啊?

TA的精华主题

TA的得分主题

发表于 2015-3-31 14:43 | 显示全部楼层

TA的精华主题

TA的得分主题

发表于 2015-5-5 09:49 | 显示全部楼层

TA的精华主题

TA的得分主题

发表于 2015-5-5 09:51 | 显示全部楼层
浮点运算问题,基本上所有基于2机制的软件都有此问题,不仅仅是excel有。
您需要登录后才可以回帖 登录 | 免费注册

本版积分规则

关闭

最新热点上一条 /1 下一条

关注官方微信,每天学会一个新技能

手机版|关于我们|联系我们|ExcelHome

GMT+8, 2019-10-16 15:41 , Processed in 0.068521 second(s), 12 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 1999-2020 Wooffice Inc.

   

沪公网安备 31011702000001号 沪ICP备11019229号

本论坛言论纯属发表者个人意见,任何违反国家相关法律的言论,本站将协助国家相关部门追究发言者责任!     本站特聘法律顾问:徐怀玉律师 李志群律师

快速回复 返回顶部 返回列表