[学习记录]NLTK常见操作一(去网页标记,统计词频,去停用词)

时间:2022-12-13 00:10:12

NLTK是python环境中的一个非常流行的NLP库,这篇记录主要记录NLTK的一些常见操作

1.去除网页html标记

  我们常常通过爬虫获取网页信息,然后需要去除网页的html标签。为此我们可以这么做:

[学习记录]NLTK常见操作一(去网页标记,统计词频,去停用词)

2.统计词频

  这里使用的tokens就是上面图中的tokens

[学习记录]NLTK常见操作一(去网页标记,统计词频,去停用词)

3.去除停用词

  停用词就是类似the,a,of这种语义无价值的词,取出后我们还可以把统计图画出来

[学习记录]NLTK常见操作一(去网页标记,统计词频,去停用词)

4.绘制词云图

  对于词云图的使用原理还不太清楚,只是找了一个可运行的公式

[学习记录]NLTK常见操作一(去网页标记,统计词频,去停用词)