【文件属性】:
文件名称:python-scrapy-spiders:一些我自己建立的,使用和完善后的scrapy爬虫项目
文件大小:12.96MB
文件格式:ZIP
更新时间:2021-04-05 23:10:29
Python
python-scrapy-spiders
描述
发行版本的刮y蜘蛛
目录
爬虫详细介绍
中国行政区划代码爬虫
技巧等级: :spade_suit: :spade_suit:
功能介绍
进攻的鲁棒性,支持断点重续爬取
不同模式,FIFO(深度爬取)和LIFO(广度爬取)
爬虫代码介绍
深度爬取,从省级向村级一级一级进进爬取
缺点:没有断点重续
adcode.py ,记录网址作为爬取依据
支持断点重续
历史版本