21:00减20:00和9:00减8:00结果不一样？

kenwong · 发表于 2017-2-28 16:55

结果单元格设定为“数值”，小数点后面30位，为什么结果会不一样？

怪大叔天涯 · 发表于 2017-2-28 17:09

误差呗。。。毕竟时间都是变成分数存储的

wangchun77 · 发表于 2017-2-28 17:14

需要这么矫情吗？精确到小数后面30位，虽然从小数后面15位就有差异了

kenwong · 发表于 2017-2-28 17:41

wangchun77 发表于 2017-2-28 17:14
需要这么矫情吗？精确到小数后面30位，虽然从小数后面15位就有差异了

问题是，我用VBA把结果传到Access的时候出错了，之前完全没搞清楚问题在哪，后来用了极端方法才查出问题在这里，就感觉很有兴趣想知道为什么

kenwong · 发表于 2017-2-28 17:43

怪大叔天涯发表于 2017-2-28 17:09
误差呗。。。毕竟时间都是变成分数存储的

过程是这样的，公司做报表，需要填写工作时间，数据需要用VBA上传到Access，因为我知道工作时间只能是1 1.5 2 2.5这种数据，所以就在Access上设置了数据类型限制，但却发现会报错，最后发现了这个问题

fracsh · 发表于 2017-2-28 18:44

这是涉及excel中时间的表示（整数表示天，小数表示时分妙），选中公式-公式求值，一步一步看计算过程，就明白了。

wangjguo44 · 发表于 2017-2-28 21:19

kenwong 发表于 2017-2-28 17:43
过程是这样的，公司做报表，需要填写工作时间，数据需要用VBA上传到Access，因为我知道工作时间只能是1 1 ...

计算机的浮点运算误差所致

秋枫 · 发表于 2017-2-28 21:48

算法上应尽量避免对两个浮点数相等的判断.

可以考虑用这种形式, v1-v2<1e-10 就认为两数相等.

dgerwin · 发表于 2017-2-28 22:28

搞不清 20/24 与8/24 中多了的0.5对0.00000000000000033333333中第1个3的进位有什么影响，进位成0.000000000000001

		自动登录	找回密码
密码			免费注册

最新热点 /1