以下是引用gvntw在2005-7-25 14:48:33的发言:
yigepure兄对frequency()研究得真透彻呀,又增新思路。
容易产生浮点计算误差。
B13改为10000看看
{10000,5000}-{0.00000000000001,0}={10000,5000}
是的.不仅如此,其它的公式也会有一些这种情况按下F9可以看见.但是不知王兄注意了没有.将它分开来,其实我想内存中并不是这样的.应该后面会有.0000000000001这个存在.因为从我第一个讨论中的公式,可以看出.结果正确.但是如果说是按F9这样的运算后的结果来计算的话.结果错误.
呵呵,王兄这点提的非常好.谢谢了.是有效位的问题.开始是用的第一例做的试验.没有发现这种情况.经过我反复运算发现.运算后的结果有效位不超过16位就不会有这个情况出现.公式后面的这个0.00000000000001改为0.000000000001.其实真正中大家可以不必要用这么多.七位就可以了.呵呵:)
再看看公式是否正确.呵呵.谢谢了.总算是不错的收获哟,希望大家继续探讨.指出!
[此贴子已经被作者于2005-7-25 23:52:56编辑过] |