scrapy安装报错解决方法

时间:2024-04-07 09:20:25

Scrapy安装过程中踩过的那些坑,希望对大家有帮助。

    首先,scrapy安装对python版本有要求,仅支持python2.7及以上版本或python3.3及以上版本。

1.使用Scrapy时遇到0: UserWarning: You do not have a working installation of the service_identity module: 'cannot import name 'opentype''. Please install it from ..的问题解决

http://www.bubuko.com/infodetail-2467560.html

 

2.报etree

scrapy安装报错解决方法

原因:默认安装的lxml版本太高(默认安装最新版),卸载后,重新安装3.8以下版本

conda uninstall lxml

conda install lxml==3.8

 

3、解决Scrapy安装错误:Microsoft Visual C++ 14.0 is required...

在windows下,在dos中运行pip install Scrapy报错:

error: Microsoft Visual C++ 14.0 is required. Get it with "Microsoft Visual C++ Build Tools": http://landinghub.visualstudio.com/visual-cpp-build-tools

scrapy安装报错解决方法

http://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted 下载twisted对应版本的whl文件(如我的Twisted-18.4.0-cp36-cp36m-win_amd64.whl),

Twisted-18.4.0-cp36-cp36m-win_amd6

4.whl

Twisted-18.4.0-cp35-cp35m-win_amd6

4.whl

cp后面是python版本,amd64代表64位,运行命令:

pip install C:\Users\ibm\Downloads\Twisted-18.4.0-cp36-cp36m-win_amd64.whl

scrapy安装报错解决方法

 

其中install后面为下载的whl文件的完整路径名

安装完成后,以管理员身份次运行:pip install scrapy 即可成功。

4、报error: Microsoft Visual C++ 14.0 is required. Get it with "Microsoft Visual C++ Build Tools": http://landinghub.visualstudio.com/visual-cpp-build-tools

这时需要安装 Microsoft Visual build tools,但是错误提示里的链接访问时会报404。这时我们就需要另辟蹊径了。build tools  下载链接: https://go.microsoft.com/fwlink/?LinkId=691126

5、报No module named 'win32api'

 

scrapy安装报错解决方法

解决方法:

pip install pywin32

 

如果网速不行,可登录:https://pypi.org/project/pywin32/#files,进行下载

scrapy安装报错解决方法

6、报SSLError,证书没有认证

scrapy安装报错解决方法

scrapy安装报错解决方法

可以通过以下命令解决

pip –trusted-host pypi.python.org install scrapy

但是使用这个命令可能会失败,系统会提示没有 -t 这个命令,那么我们还可以通过安装国内的镜像来解决

pip install scrapy -i http://pypi.douban.com/simple/ --trusted-host pypi.douban.com