ExcelHome技术论坛

 找回密码
 免费注册

QQ登录

只需一步,快速开始

快捷登录

搜索
EH技术汇-专业的职场技能充电站 妙哉!函数段子手趣味讲函数 Excel服务器-会Excel,做管理系统 效率神器,一键搞定繁琐工作
HR薪酬管理数字化实战 Excel 2021函数公式学习大典 Excel数据透视表实战秘技 打造核心竞争力的职场宝典
让更多数据处理,一键完成 数据工作者的案头书 免费直播课集锦 ExcelHome出品 - VBA代码宝免费下载
用ChatGPT与VBA一键搞定Excel WPS表格从入门到精通 Excel VBA经典代码实践指南
123
返回列表 发新帖
楼主: lwbtest

“MOD”函数的应用---四舍六入

[复制链接]

TA的精华主题

TA的得分主题

发表于 2009-10-14 14:05 | 显示全部楼层
狗尾草版主在7楼中已经说得很清楚,“不管是MOD还是INT函数,都被发现可能因为EXCEL浮点运算造成误差而导致判断失误”因此将《Excel函数与公式实战技巧精粹》中的通用公式改为=ROUND($A2,n)-(ROUND(MOD($A2*10^n,20),0)=5)/10^n经过验证基本正确,但是MOD($A2*10^n,20)中的A2如果整数部份大于7位数将会出错,是否是MOD函数的问题?

TA的精华主题

TA的得分主题

发表于 2009-10-18 23:11 | 显示全部楼层
原帖由 yq7219 于 2009-10-14 14:05 发表
但是MOD($A2*10^n,20)中的A2如果整数部份大于7位数将会出错


MOD(X,Y),X不得超过Y的2^27倍。在《驾驭神奇的余数》技巧中有写。

TA的精华主题

TA的得分主题

发表于 2010-9-9 00:14 | 显示全部楼层
感谢版主提供的公式。现有个问题请指教,根据版主提供的公式,比如1.0500,修约后为1.1;而根据GBT8170-2008标准的话,应该为1.0。这个公式对0好像失效。

TA的精华主题

TA的得分主题

发表于 2011-12-11 14:30 | 显示全部楼层
我也是工程 试验的,楼主发的那个公式。对其中一条修约规则计算错误。如果5后面为均为零里,看前一位的奇偶。如果是非零数无论前一位是奇是偶都 是要进位的

TA的精华主题

TA的得分主题

发表于 2011-12-11 14:31 | 显示全部楼层
数值修约规则:四舍六入五留双来源:考试大   【考试大:中国教育考试第一门户】   2010年8月3日四舍六入五留双规则
为了避免四舍五入规则造成的结果偏高,误差偏大的现象出现,一般采用四舍六入五留双规则
四舍六入五留双规则的具体方法是:
(一)当尾数小于或等于4时,直接将尾数舍去。
例如将下列数字全部修约为四位有效数字,结果为:
0.53664——0.5366  
10.2731——10.27www.Examda.CoM考试就到考试大
18.5049——18.50  0.58344——0.5834  
16.4005——16.40  
27.1829——27.18   
(二)当尾数大于或等于6时,将尾数舍去并向前一位进位。
例如将下列数字全部修约为四位有效数字,结果为:
0.53666——0.5367  
8.3176——8.318采集者退散
16.7777——16.78  0.58387——0.5839  
10.29501——10.30  
21.0191——21.02   
(三)当尾数为5,而尾数后面的数字均为0时,应看尾数“5”的前一位:若前一位数字此时为奇数,就应向前进一位;若前一位数字此时为偶数,则应将尾数舍去。数字“0”在此时应被视为偶数。
例如将下列数字全部修约为四位有效数字,结果为:
0.153050——0.1530  
12.6450——12.64考试大-全国最大教育类网站(www.Examda。com)
18.2750——18.28  0.153750——0.1538  
12.7350——12.74  
21.845000——21.84   
(四)当尾数为5,而尾数“5”的后面还有任何不是0的数字时,无论前一位在此时为奇数还是偶数,也无论“5”后面不为0的数字在哪一位上,都应向前进一位。
例如将下列数字全部修约为四位有效数字,结果为:
0.326552——0.3266  
12.73507——12.74  
21.84502——21.85  12.64501——12.65  
18.27509——18.28  
38.305000001——38.31   
按照四舍六入五留双规则进行数字修约时,也应像四舍五入规则那样,一次性修约到指定的位数,不可以进行数次修约,否则得到的结果也有可能是错误的。例如将数字10.2749945001修约为四位有效数字时,应一步到位:10.2749945001——10.27(正确)。如果按照四舍六入五留双规则分步修约将得到错误结果:10.2749945001——10.274995——10.275——10.28(错误)。
您需要登录后才可以回帖 登录 | 免费注册

本版积分规则

手机版|关于我们|联系我们|ExcelHome

GMT+8, 2024-11-25 05:01 , Processed in 0.035113 second(s), 6 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 1999-2023 Wooffice Inc.

沪公网安备 31011702000001号 沪ICP备11019229号-2

本论坛言论纯属发表者个人意见,任何违反国家相关法律的言论,本站将协助国家相关部门追究发言者责任!     本站特聘法律顾问:李志群律师

快速回复 返回顶部 返回列表