1. xpath 的介绍
xpath是一门在xml文档中查找信息的语言
优点:
- 可以在xml中找信息
- 支持html的查找
- 可以通过元素和属性进行导航
但是xpath需要依赖xml的库,所以我们需要去安装lxml的库。
安装lxml库
我们先要安装lxml的库,直接在pycharm里安装即可:
xml的树形结构:
元素-元素-属性-文本
使用xpath选取节点:
- nodename: 选取此节点的所有节点
- /从根节点选择
- // 从匹配选择的当前节点选择文档中的节点,而不考虑他们的位置
- . 选择当前节点
- .. 选择当前节点的父节点(此处是两个点,浏览器默认显示3个..)
- /text() 获取当前路径下的文本内容
- /@xxx 提取当前路径下标签的属性值
选取节点的表达式举例:
2. 爬取起点小说网
在浏览器中获取书名和作者测试
在谷歌里安装一个xpath的插件
在html中查找book-mid-info
我们要获取小说的名称: 也就是 //div[@class='book-mid-info']/h4/a/txt()
再加一个获取作者:
使用xpath获取起点小说网的数据
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
|
# 作者:互联网老辛
# 开发时间:2021/4/8/0008 8:24
import requests
from lxml import etree
url = "https://www.qidian.com/rank/yuepiao"
headers = { 'user-agent' : 'mozilla/5.0 (windows nt 10.0; wow64) applewebkit/537.36 (khtml, like gecko) chrome/70.0.3538.25 safari/537.36 core/1.70.3861.400 qqbrowser/10.7.4313.400' }
#发送请求
resp = requests.get(url,headers)
e = etree.html(resp.text) #类型转换,把str转变为class 'lxml.etree._element
print ( type (e))
names = e.xpath( '//div[@class="book-mid-info"]/h4/a/text()' )
authors = e.xpath( '//p[@class="author"]/a[1]/text()' )
print (names)
print (authors)
#名称和作者对应
for name,authors in zip (names,authors):
print (name, ":" ,authors)
|
以上就是python使用xpath解析数据爬取起点小说网数据的详细内容,更多关于python xpath解析数据爬取起点小说网的资料请关注服务器之家其它相关文章!
原文链接:https://juejin.cn/post/6953179886403977252