ExcelHome技术论坛

 找回密码
 免费注册

QQ登录

只需一步,快速开始

快捷登录

搜索
EH技术汇-专业的职场技能充电站 妙哉!函数段子手趣味讲函数 Excel服务器-会Excel,做管理系统 Excel Home精品图文教程库
HR薪酬管理数字化实战 Excel 2021函数公式学习大典 Excel数据透视表实战秘技 打造核心竞争力的职场宝典
300集Office 2010微视频教程 数据工作者的案头书 免费直播课集锦 ExcelHome出品 - VBA代码宝免费下载
用ChatGPT与VBA一键搞定Excel WPS表格从入门到精通 Excel VBA经典代码实践指南
查看: 347|回复: 11

[讨论] 如果处理100个excel表,每个100万行,300兆,仅做数据分析和匹配查询,什么方法最好

[复制链接]

TA的精华主题

TA的得分主题

发表于 2024-1-17 16:26 | 显示全部楼层 |阅读模式
各位大佬好:

最近遇到一些大数据量的处理,大概有100个excel工作簿,每个工作簿约100万行,300兆,
运行VLOOKUP的做匹配查询非常慢,而且是不是会卡死。
想问下大佬,这种情况用 power query 可以吗? 还是Python会更好?
如果是仅做数据分析和匹配查询,什么方法最好

TA的精华主题

TA的得分主题

发表于 2024-1-17 17:43 | 显示全部楼层
SQL类的最好

TA的精华主题

TA的得分主题

发表于 2024-1-17 17:46 | 显示全部楼层
本帖最后由 高个子 于 2024-1-17 18:07 编辑

加起来一亿行,这个情况用pq是没有意义的,Excel只适合小数据的情况。
Python个人感觉没有问题,如果你会Python那可以直接用Python编程解决

https://club.excelhome.net/thread-361419-1-1.html
如果你不会Python那建议用数据库,这个帖子也说了啥时候用Excel,啥时候用数据库。

数据库软件比如mysql,微软出的access等都可以,某度查到的数据库软件都可以解决数据量特别大的问题

TA的精华主题

TA的得分主题

发表于 2024-1-17 17:55 | 显示全部楼层
二选一的话  肯定是python更适合点

TA的精华主题

TA的得分主题

发表于 2024-1-17 22:30 | 显示全部楼层
power query 还是Python,当然是后者,python+数据库

TA的精华主题

TA的得分主题

 楼主| 发表于 2024-1-18 09:19 | 显示全部楼层
高个子 发表于 2024-1-17 17:46
加起来一亿行,这个情况用pq是没有意义的,Excel只适合小数据的情况。
Python个人感觉没有问题,如果你会P ...

感谢,厉害

TA的精华主题

TA的得分主题

发表于 2024-1-18 09:30 | 显示全部楼层
[广告] VBA代码宝 - VBA编程加强工具 · VBA代码随查随用  · 内置多项VBA编程加强工具       ★ 免费下载 ★      ★使用手册
静听溪流 发表于 2024-1-17 17:55
二选一的话  肯定是python更适合点

https://club.excelhome.net/threa ... tml?_dsign=d78a0625
美女大神,来帮我写个公式

TA的精华主题

TA的得分主题

发表于 2024-1-18 09:44 | 显示全部楼层
[广告] VBA代码宝 - VBA编程加强工具 · VBA代码随查随用  · 内置多项VBA编程加强工具       ★ 免费下载 ★      ★使用手册
PQ肯定没有PY快,不过不用Excel更快,先合并数据到数据库,然后SQL查询快

TA的精华主题

TA的得分主题

 楼主| 发表于 2024-1-18 17:57 | 显示全部楼层
静听溪流 发表于 2024-1-17 17:55
二选一的话  肯定是python更适合点

如果想达到excel的效果,是不是得需要Python和数据库同时用上啊?

TA的精华主题

TA的得分主题

发表于 2024-1-18 19:42 | 显示全部楼层
本帖最后由 evluan 于 2024-1-18 19:44 编辑
weilifei 发表于 2024-1-18 17:57
如果想达到excel的效果,是不是得需要Python和数据库同时用上啊?

python就够了,随便盘,装个python,pacharm,pandas 随便盘,B站里搜几个教程,对着代码复制粘贴直接秒出了。
您需要登录后才可以回帖 登录 | 免费注册

本版积分规则

手机版|关于我们|联系我们|ExcelHome

GMT+8, 2024-4-28 03:26 , Processed in 0.046043 second(s), 9 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 1999-2023 Wooffice Inc.

沪公网安备 31011702000001号 沪ICP备11019229号-2

本论坛言论纯属发表者个人意见,任何违反国家相关法律的言论,本站将协助国家相关部门追究发言者责任!     本站特聘法律顾问:李志群律师

快速回复 返回顶部 返回列表