Python3爬虫里关于Splash负载均衡配置详解

时间:2021-01-19 23:53:18
【文件属性】:
文件名称:Python3爬虫里关于Splash负载均衡配置详解
文件大小:64KB
文件格式:PDF
更新时间:2021-01-19 23:53:18
AS ash pl 用Splash做页面抓取时,如果爬取的量非常大,任务非常多,用一个Splash服务来处理的话,未免压力太大了,此时可以考虑搭建一个负载均衡器来把压力分散到各个服务器上。这相当于多台机器多个服务共同参与任务的处理,可以减小单个Splash服务的压力。 1. 配置Splash服务 要搭建Splash负载均衡,首先要有多个Splash服务。假如这里在4台远程主机的8050端口上都开启了Splash服务,它们的服务地址分别为41.159.27.223:8050、41.159.27.221:8050、41.159.27.9:8050和41.159.117.119:8050,这4个服务完全一致,都是通过D

网友评论