【文件属性】:
文件名称:scrapinghub-elasticsearch-loader:将项目从Scrapinghub加载到ElasticSearch
文件大小:19KB
文件格式:ZIP
更新时间:2021-05-02 20:05:52
elasticsearch scrapinghub Python
将项目从Scrapy Cloud加载到ElasticSearch实例
安装
安装依赖项:
virtualenv venv
source venv/bin/activate
pip install .
另外,您还需要安装ElasticSearch或安装docker和docker-compose,以使用此项目中docker-compose.yml配置。
用法
启动ElasticSearch
如果您具有本地安装,请启动它,并确保它正在运行或使用此项目中的配置,然后使用以下命令运行ElasticSearch和Kibana:
docker-compose up -d
设置环境变量
为了使用此脚本,您需要,将其添加到环境变量SH_APIKEY :
export SH_APIKEY= " your_key "
运行脚本
该项目具有命令行界面“ shes”(ScrapingHub-Elastic
【文件预览】:
scrapinghub-elasticsearch-loader-master
----shes.py(1KB)
----.gitignore(54B)
----README.md(2KB)
----docker-compose.yml(1KB)
----LICENSE(34KB)
----requirements.txt(464B)
----es_loader()
--------es_loader.py(6KB)
--------__init__.py(0B)
----setup.py(1KB)
----tox.ini(150B)