Power BI

牛奶加咖啡 Lv.2

2025-3-20 13:52 关注
最近在研究一个按倍数舍入的问题（原帖：按半小时统计）时发现的新问题，
如图：如果直接对整数取整是没有问题的，
          然后从小数乘以倍数后再取整也是没问题的，
          但是用小数除以倍数的倒数（也就是小数）的时候就出幺蛾子了，而且这个例子中除的小数是0.1，也不会产生除不尽的余数啊，为什么会不一样呢？而且这错误的也看不出什么罗辑规律出来。
Why! Tell me why baby! Why!





取整1.png
乘倍数后取整一
乘倍数后取整二
取整3-1.png
除倍数后取整二
赏
有 1 人给楼主打赏
362阅读
7回复 倒序

deadzlq Lv.5 2楼

2025-3-20 14:34
fyi.....精度问题
微信截图_20250320143428.png

牛奶加咖啡 楼主 3楼

2025-3-20 15:32
引用: deadzlq 发表于 2025-3-20 14:34
fyi.....精度问题

这除以0.1怎么会出现精度问题呢？又不是除以0.3，真不懂了

deadzlq Lv.5 4楼

2025-3-20 15:43
引用: 牛奶加咖啡 发表于 2025-3-20 15:32
这除以0.1怎么会出现精度问题呢？又不是除以0.3，真不懂了

来追问到底！AI回答

牛奶加咖啡 楼主 5楼

2025-3-20 17:24
引用: deadzlq 发表于 2025-3-20 15:43
来追问到底！AI回答

淦，搞这么底层的原因吗？但是我在excel里面计算又没这个问题，都是计算机，难道excel用了什么办法规避了？

静听溪流 Lv.18 6楼

2025-3-20 22:07
浮点误差导致的

牛奶加咖啡 楼主 7楼

2025-3-21 10:14
引用: 静听溪流 发表于 2025-3-20 22:07
浮点误差导致的

数学果然不是科学

cpa_cpv998 8楼

2025-3-21 15:53
提示: 作者被禁止或删除 内容自动屏蔽

已显示全部内容

高级模式
插入