ExcelHome技术论坛

 找回密码
 免费注册

QQ登录

只需一步,快速开始

快捷登录

搜索
EH技术汇-专业的职场技能充电站 妙哉!函数段子手趣味讲函数 Excel服务器-会Excel,做管理系统 效率神器,一键搞定繁琐工作
HR薪酬管理数字化实战 Excel 2021函数公式学习大典 Excel数据透视表实战秘技 打造核心竞争力的职场宝典
让更多数据处理,一键完成 数据工作者的案头书 免费直播课集锦 ExcelHome出品 - VBA代码宝免费下载
用ChatGPT与VBA一键搞定Excel WPS表格从入门到精通 Excel VBA经典代码实践指南
查看: 25950|回复: 29

[讨论]浮点运算发现&解决并总结

[复制链接]

TA的精华主题

TA的得分主题

发表于 2008-3-23 19:47 | 显示全部楼层 |阅读模式
本帖已被收录到知识树中,索引项:数学运算

我来牵头,大家把这类的问题说说。

一、什么叫做浮点运算

二、浮点运算有什么缺陷

三、一般都发生在什么地方

四、浮点运算怎么解决

************************实**********际***********问***********题********************************

(一)基础版

1、浮点运算误差带来的看不懂    sunnet

(二)函数公式版

1、请教:如何从浮点数中创建一个二进制数字位的序列?      xiaohu2000

2、求助shangyu,浮点计算     盼盼

3、OFFICE2007版ROUND函数浮点运算问题      daley

(三)VBA程序开发

1、如何将一个浮点数转化为一个整数?     suweibin

2、如何消除因浮点运算引起的误差      czjlskl

3、浮点的问题       一片清凉

4、请帮我看看这个浮点运算的问题怎么解决?    lbpp

5、vb简单浮点EXCEl to exe     youii

6、EXCEL从Access中取数,对浮点数小数位的问题     joseph_wu

(四)数据透视表

1、数据透视报表中为何出现统计数字的溢出?    yg7770

2、

(五)WORD板块

1、请问如何设置一个单精度浮点数的格式呢    hnyhny

(六)其他

1、这也是浮点运算误差吗?     czzqb

[此贴子已经被作者于2008-3-23 20:24:19编辑过]

TA的精华主题

TA的得分主题

发表于 2008-3-23 20:09 | 显示全部楼层

TA的精华主题

TA的得分主题

发表于 2008-4-16 10:36 | 显示全部楼层
[广告] Excel易用宝 - 提升Excel的操作效率 · Excel / WPS表格插件       ★免费下载 ★       ★ 使用帮助
相当不错的整理帖啊,先收藏了,等有时间了再来慢慢品

TA的精华主题

TA的得分主题

发表于 2009-8-21 12:32 | 显示全部楼层
[广告] Excel易用宝 - 提升Excel的操作效率 · Excel / WPS表格插件       ★免费下载 ★       ★ 使用帮助
谢了 ,以后慢慢学

TA的精华主题

TA的得分主题

发表于 2009-8-22 11:50 | 显示全部楼层

TA的精华主题

TA的得分主题

发表于 2009-11-12 18:10 | 显示全部楼层
奇怪,这么好的帖子怎么回帖渺渺,我来顶下

TA的精华主题

TA的得分主题

发表于 2009-12-9 10:33 | 显示全部楼层
[广告] VBA代码宝 - VBA编程加强工具 · VBA代码随查随用  · 内置多项VBA编程加强工具       ★ 免费下载 ★      ★使用手册
这个帖不错!

TA的精华主题

TA的得分主题

发表于 2010-1-20 09:31 | 显示全部楼层
[广告] VBA代码宝 - VBA编程加强工具 · VBA代码随查随用  · 内置多项VBA编程加强工具       ★ 免费下载 ★      ★使用手册
浮点 浮点,没人研究啊

TA的精华主题

TA的得分主题

发表于 2010-3-17 11:22 | 显示全部楼层
这么好的帖子,学习学习
哎 现在大家都习惯于浮点浮点,round round了

TA的精华主题

TA的得分主题

发表于 2010-9-13 21:13 | 显示全部楼层
您需要登录后才可以回帖 登录 | 免费注册

本版积分规则

手机版|关于我们|联系我们|ExcelHome

GMT+8, 2024-11-24 18:56 , Processed in 0.049099 second(s), 8 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 1999-2023 Wooffice Inc.

沪公网安备 31011702000001号 沪ICP备11019229号-2

本论坛言论纯属发表者个人意见,任何违反国家相关法律的言论,本站将协助国家相关部门追究发言者责任!     本站特聘法律顾问:李志群律师

快速回复 返回顶部 返回列表