MATCH函数内部的高精度带来的问题即应对策略

wcymiss · 发表于 2012-2-12 14:31

本帖最后由 wcymiss 于 2012-2-12 14:47 编辑

胡版又有新的研究成果即将问世了。呵呵

我感觉“=”比较的精度还只是在15位以内。用工程函数DELTA可以比较出B6与“232”是不同的。
可能match的精度要高于“=”，不单是match，还发现lookup家族都有这个现象，还有frequency也是。

B6输入：=2-10^-15，此时B6显示为“2”；
测试：=2=B6，返回true；
测试：=match(B6,{1,2,3})，返回1；
测试：=DELTA(B6,2)，返回0，即两者不等。

期待胡版最终的研究结果。

胡剑0227 · 发表于 2012-2-12 15:13

wcymiss 发表于 2012-2-12 14:31
胡版又有新的研究成果即将问世了。呵呵

我感觉“=”比较的精度还只是在15位以内。用工程函数DELTA可以比 ...

恩，当时的结论就是函数内部的精度是要高于15位的，就是这个，呵呵。

赞一下，呵呵。你的直接用DELTA函数来判断很清晰，给力。给朵献花，呵呵

CheryBTL · 发表于 2012-2-12 16:56

胡剑0227 发表于 2012-2-12 15:13
恩，当时的结论就是函数内部的精度是要高于15位的，就是这个，呵呵。

赞一下，呵呵。你的直接用DELTA函 ...

我用00:00与00:01至23:59对比，结果仍像吴姐和胡版的看法一致，
但也出现奇怪的现象，用B列的时间与对应的ROW()/14440进行对比，却不是都相等，相等的仅826，有600+都是不相等的。

Book1.rar (134.56 KB, 下载次数: 7)

CheryBTL · 发表于 2012-2-12 21:10

胡版辛苦了，一个一个点评
EXCEL中离232最近的有两个数但直接等于232或我们认为的232【MOD("02:27"-"22:35",1)*1440】都会返回FALSE的
232.000000000001
231.999999999999

CheryBTL · 发表于 2012-2-14 11:02

本帖最后由 CheryBTL 于 2012-2-14 11:03 编辑

同感呀～～～～
做自己喜欢的事儿！
年前看皮德.比菲特（股神的儿子，原来还是以为是股神写的，被骗了）写的做你自己，就是要找自己喜欢的事儿，并坚持下去！

jm_violet · 发表于 2012-3-16 14:21

原来这里面还有那么多学问啊

sh0814 · 发表于 2012-7-14 15:56

继续潜水学习～～～

chenjiawei5000 · 发表于 2013-9-5 15:26

A1=3.76是手工输入的
B1=MATCH(A1-INT(A1),{0.25,0.5,0.76},1) 返回值是2

白衬衫2017 · 发表于 2018-1-31 22:53

学习了，谢谢

		自动登录	找回密码
密码			免费注册

[讨论] MATCH函数内部的高精度带来的问题即应对策略

评分

点评

点评