如何爬取动态网页的数据?Python实战案例

时间:2024-03-14 21:44:09

前言

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理。

一、什么是动态网页

所谓的动态网页,是指跟静态网页相对的一种网页编程技术。静态网页,随着html代码的生成,页面的内容和显示效果就基本上不会发生变化了——除非你修改页面代码。而动态网页则不然,页面代码虽然没有变,但是显示的内容却是可以随着时间、环境或者数据库操作的结果而发生改变的。——来源百度百科

动态网页具有减少工作量、内容更新快、可完成功能多等特点,被很多公司所采用,比如狗东、某宝、某瓣、某乎等等。

二、什么是AJAX

随着人们对动态网页加载速度的要求越来越高,AJAX技术应运而生并成为许多站点的首选。AJAX是一种用于创建快速动态网页的技术,通过在后台与服务器进行少量数据交换,使网页实现异步更新。这意味着在不重新加载整个网页的情况下,可以对网页的某部分进行更新。

三、如何爬取AJAX动态加载网页

1. 解析接口

只要是有数据发送过来,那肯定是有发送到服务器的请求的吧。我们只需找出它悄悄加载出的页面的真实请求即可。特点:爬取速度快,爬取的数据干净,有些网站解析难度较大。

如何爬取动态网页的数据?Python实战案例

2. Selenium

selenium是什么呢?它本来是个自动化测试工具,但是被广泛的用户拿去爬虫了。它是一个工具,这个工具可以用代码操作浏览器,比如控制浏览器的下滑、模拟鼠标点击等。特点:代码较简单,爬取速度慢,容易被封ip。

项目实操

法院历年公示的开庭信息、执行信息等。
长这样:
如何爬取动态网页的数据?Python实战案例
然后,成功提取了第一页
紧接着,加了个for循环,想着花个几分钟时间把此网站2164页共计32457条开庭公告数据提取到excel里。
然后,也就没有然后了。各位看了前面的理论部分应该也知道了,这是 AJAX动态加载的网页。无论你怎么点击下一页,url是不会变化的。你不信我点给你看看,左上角的url像山一样矗立在那:如何爬取动态网页的数据?Python实战案例

一、解析接口

既然如此,那我们就开启爬虫的正确姿势吧,先用解析接口的方法来写爬虫。

首先,找到真实请求。右键检查,点击Network,选中XHR,刷新网页,选择Name列表中的jsp文件。没错,就这么简单,真实请求就藏在里面。
如何爬取动态网页的数据?Python实战案例
我们再仔细看看这个jsp,这简直是个宝啊。有真实请求url,有请求方法post,有Headers,还有Form Data,而From Data表示给url传递的参数,通过改变参数,咱们就可以获得数据!
如何爬取动态网页的数据?Python实战案例
我们再仔细看看这些参数,pagesnum参数不就是代表页数嘛!我们尝试点击翻页,发现只有pagesnum参数会变化。
如何爬取动态网页的数据?Python实战案例
既然发现了它,那就赶紧抓住它。
如何爬取动态网页的数据?Python实战案例
构造真实请求,添加Headers。
如何爬取动态网页的数据?Python实战案例
构建get_page函数,自变量为page,也就是页数。以字典类型创建表单data,用post方式去请求网页数据。这里要注意要对返回的数据解码,编码为’gbk’,否则返回的数据会乱码!另外我还加了异常处理优化了下,以防意外发生。
如何爬取动态网页的数据?Python实战案例
构建parse_page函数,对返回的网页数据进行解析,用Xpath提取所有字段内容,保存为csv格式。
如何爬取动态网页的数据?Python实战案例
最后,遍历一下页数,调用一下函数。OK,搞定!
如何爬取动态网页的数据?Python实战案例
我们来看一下最终效果:
如何爬取动态网页的数据?Python实战案例
总结一下,对于AJAX动态加载网页爬虫,一般就两种方式:解析接口;Selenium。推荐解析接口的方式,如果解析的是json数据,就更好爬了。实在没辙了再用Selenium吧。