【文件属性】:
文件名称:simpyder:超高速异步协程Python爬虫
文件大小:16KB
文件格式:ZIP
更新时间:2021-05-05 15:51:43
python crawler spider Python
Simpyder - Simple Python Spider
Simpyder - 轻量级协程Python爬虫
特点
轻量级:下载便利,依赖较少,使用简单。
协程:单线程,通过协程实现并发。
可定制:简单配置,适应各种爬取场合。
快速开始
下载
#使用pip3
pip3 install simpyder --user
# 更新包
pip3 install simpyder --upgrade
编码
用户只需要定义三个函数,实现三个模块:
链接获取
我们需要一个定义一个,用于产生链接。
async def gen_url():
for each_id in range(100):
yield "https://www.biliob.com/api/video/{}".format(each_id)
链接解析
我们需要定义一个解析链接的函数。其中第一个参数是Respo
【文件预览】:
simpyder-master
----.travis.yml(209B)
----.github()
--------FUNDING.yml(749B)
----simpyder()
--------spiders()
--------utils.py(2KB)
--------__init__.py(90B)
--------scheduler.py(227B)
--------config.py(198B)
--------__version__.py(23B)
----LICENSE(1KB)
----requirements.txt(44B)
----setup.py(1KB)
----.gitignore(2KB)
----demo()
--------zhihu.py(1KB)
--------demo.py(674B)
----README.md(4KB)