ExcelHome技术论坛

 找回密码
 免费注册

QQ登录

只需一步,快速开始

快捷登录

搜索
EH技术汇-专业的职场技能充电站 妙哉!函数段子手趣味讲函数 Excel服务器-会Excel,做管理系统 效率神器,一键搞定繁琐工作
HR薪酬管理数字化实战 Excel 2021函数公式学习大典 Excel数据透视表实战秘技 打造核心竞争力的职场宝典
让更多数据处理,一键完成 数据工作者的案头书 免费直播课集锦 ExcelHome出品 - VBA代码宝免费下载
用ChatGPT与VBA一键搞定Excel WPS表格从入门到精通 Excel VBA经典代码实践指南
楼主: 知乎用户

[求助] 求省市区县乡镇四级联动,有偿求助

[复制链接]

TA的精华主题

TA的得分主题

发表于 2022-5-31 05:49 | 显示全部楼层
本帖最后由 wanghan519 于 2022-5-31 08:52 编辑

请谨慎使用,下面是递归的下载整个网站,不并发,单线程,每秒1、2次,千万别违法啊!!!:
  1. wget -t0 -T9 -r -p -np -k 'http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2021/index.html'
复制代码

然后可以用各种方法遍历html得到列表。

TA的精华主题

TA的得分主题

发表于 2022-5-31 09:22 | 显示全部楼层
用上面的命令下载了统计局网站上的4万多个网页,不要并发,慢慢等,避免违法,然后用这句初步处理得到表格,66万行:然后可以再自己处理成分级的。
  1. find www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2021/ -iname '*.html' | xargs w3m -dump | awk '/^[0-9]/{gsub(/ +/,",",$0);print}' > out.csv
复制代码



out.7z.001.7z

2 MB, 下载次数: 16

out.7z.002.7z

1.33 MB, 下载次数: 53

TA的精华主题

TA的得分主题

发表于 2022-6-1 09:39 | 显示全部楼层
wanghan519 发表于 2022-5-31 09:22
用上面的命令下载了统计局网站上的4万多个网页,不要并发,慢慢等,避免违法,然后用这句初步处理得到表格 ...

2个文件都下载了  无法解压

TA的精华主题

TA的得分主题

发表于 2022-6-1 09:53 来自手机 | 显示全部楼层
熊文来 发表于 2022-6-1 09:39
2个文件都下载了  无法解压

后缀的7z删掉吧,不知道为什么直接压的不让发了

TA的精华主题

TA的得分主题

发表于 2022-6-1 09:59 | 显示全部楼层
wanghan519 发表于 2022-6-1 09:53
后缀的7z删掉吧,不知道为什么直接压的不让发了

去掉了  还是没办法 提示错误 ,要不你发一份到我邮箱 谢谢!305845432@qq.com

TA的精华主题

TA的得分主题

发表于 2022-6-2 13:07 | 显示全部楼层
熊文来 发表于 2022-5-30 19:45
谢谢!还是想要一份全国的 最新的数据表。不着急的。您这边什么时间有空 再弄 都行!

https://club.excelhome.net/thread-1629392-1-1.html

TA的精华主题

TA的得分主题

发表于 2022-6-2 14:21 | 显示全部楼层
学良 发表于 2022-6-2 13:07
https://club.excelhome.net/thread-1629392-1-1.html

嗯嗯 我昨天也看到了
您需要登录后才可以回帖 登录 | 免费注册

本版积分规则

手机版|关于我们|联系我们|ExcelHome

GMT+8, 2025-1-11 23:35 , Processed in 0.022560 second(s), 7 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 1999-2023 Wooffice Inc.

沪公网安备 31011702000001号 沪ICP备11019229号-2

本论坛言论纯属发表者个人意见,任何违反国家相关法律的言论,本站将协助国家相关部门追究发言者责任!     本站特聘法律顾问:李志群律师

快速回复 返回顶部 返回列表