ExcelHome技术论坛

 找回密码
 免费注册

QQ登录

只需一步,快速开始

快捷登录

搜索
EH技术汇-专业的职场技能充电站 妙哉!函数段子手趣味讲函数 Excel服务器-会Excel,做管理系统 Excel Home精品图文教程库
HR薪酬管理数字化实战 Excel 2021函数公式学习大典 Excel数据透视表实战秘技 打造核心竞争力的职场宝典
300集Office 2010微视频教程 数据工作者的案头书 免费直播课集锦 ExcelHome出品 - VBA代码宝免费下载
用ChatGPT与VBA一键搞定Excel WPS表格从入门到精通 Excel VBA经典代码实践指南
查看: 539|回复: 1

[已解决] EXCEL2010 显示值错误

[复制链接]

TA的精华主题

TA的得分主题

发表于 2019-8-6 10:28 | 显示全部楼层 |阅读模式
[广告] VBA代码宝 - VBA编程加强工具 · VBA代码随查随用  · 内置多项VBA编程加强工具       ★ 免费下载 ★      ★使用手册
输入  =80+59-135.8 时值<>3.2  设置单元格格式为“数字,小数位数 14位”,结果显示:3.19999999999999
求高手指点,为什么会这样
输入=100+0-90.6 设置单元格格式为“数字,小数位数 14位”,结果显示:9.40000000000001

TA的精华主题

TA的得分主题

 楼主| 发表于 2019-8-6 10:51 | 显示全部楼层 |阅读模式
见附件,在单元格内输入某些数据进行简单的加减运算时,其值用IF函数判断时不正确,把单元格小数位位数设置到14位以上时,发现计算值与实际值不相等
求大神帮忙分析原因,仓库台账做账时发现的(”盈亏=实盘-账面“时出现科学计数符号了)

公式求值错误.rar

7.01 KB, 下载次数: 3

评分

1

查看全部评分

TA的精华主题

TA的得分主题

发表于 2019-8-6 11:08 | 显示全部楼层
是这样的,是浮点计算误差,参考微软的说明:“在 Excel 中浮点运算可能会给出不准确的结果”。

TA的精华主题

TA的得分主题

发表于 2019-8-6 11:13 | 显示全部楼层
[广告] VBA代码宝 - VBA编程加强工具 · VBA代码随查随用  · 内置多项VBA编程加强工具       ★ 免费下载 ★      ★使用手册
浮点引起,公式改为
=IF(ROUND(80+59-135.8,2)=3.2,"yes","no")

TA的精华主题

TA的得分主题

 楼主| 发表于 2019-8-6 12:06 | 显示全部楼层
呃,我只想知道,为什么会出现这种情况

TA的精华主题

TA的得分主题

发表于 2019-8-6 14:13 | 显示全部楼层
[广告] VBA代码宝 - VBA编程加强工具 · VBA代码随查随用  · 内置多项VBA编程加强工具       ★ 免费下载 ★      ★使用手册
wcn2019 发表于 2019-8-6 12:06
呃,我只想知道,为什么会出现这种情况

看这里:
http://club.excelhome.net/thread-635915-1-1.html
您需要登录后才可以回帖 登录 | 免费注册

本版积分规则

手机版|关于我们|联系我们|ExcelHome

GMT+8, 2024-3-29 04:45 , Processed in 0.043589 second(s), 11 queries , Gzip On, Redis On.

Powered by Discuz! X3.4

© 1999-2023 Wooffice Inc.

沪公网安备 31011702000001号 沪ICP备11019229号-2

本论坛言论纯属发表者个人意见,任何违反国家相关法律的言论,本站将协助国家相关部门追究发言者责任!     本站特聘法律顾问:李志群律师

快速回复 返回顶部 返回列表