NLP任务中常用的损失函数
余弦相似度： L ( a , ...
【NPL】自然语言处理（Natural Language Processing，NLP）的发展简述-关键词
语法和语义模型统计模型深度学习方法Transformer模型预训练语言模型 上面这几个关键词就是NLP不断升级和赋能的过程，从探索到预训练模型，不得不佩服这方面付出巨大的前辈们，我们都是站在巨人的肩膀上前行，期待NLP更多突破 总结：相信NPL在未来5年内还会有更新突破的项目，预测也会有很...
NLP自然语言处理介绍
自然语言处理（NLP，Natural Language Processing）是一门涉及计算机与人类语言之间交互的学科。它的目标是使计算机能够理解和生成人类语言，从而更好地处理和解析大量的文本数据。NLP不仅是人工智能领域中一个重要的分支，也是当今社会应用广泛的领域之一。 在NLP中，一个基础但关键...
NLP问题特征表达基础 - 语言模型（Language Model）发展演化历程讨论
1. NLP问题简介0x1：NLP问题都包括哪些内涵人们对真实世界的感知被成为感知世界，而人们用语言表达出自己的感知视为文本数据。那么反过来，NLP，或者更精确地表达为文本挖掘，则是从文本数据出发，来尽可能复原人们的感知世界，从而表达真实世界的过程。这里面就包括如图中所示的模型和算法，包括：（）文本...
NLP&深度学习：近期趋势概述
NLP&深度学习：近期趋势概述摘要：当NLP遇上深度学习，到底发生了什么样的变化呢？在最近发表的论文中，Young及其同事汇总了基于深度学习的自然语言处理（NLP）系统和应用程序的一些最新趋势。本文的重点介绍是对各种NLP任务（如视觉问答（QA）和机器翻译）最新技术（SOTA）结果的回顾和比...
NLP资源
http://www.cs.columbia.edu/~mcollins/notes-spring2013.htmlhttp://web.stanford.edu/class/cs224n/syllabus.html
干货 | 请收下这份2018学习清单：150个最好的机器学习，NLP和Python教程
机器学习的发展可以追溯到1959年，有着丰富的历史。这个领域也正在以前所未有的速度进化。在之前的一篇文章中，我们讨论过为什么通用人工智能领域即将要爆发。有兴趣入坑ML的小伙伴不要拖延了，时不我待！在今年秋季开始准备博士项目的时候，我已经精选了一些有关机器学习和NLP的优质网络资源。一般我会找一个有意...
【NLP CS224N笔记】汇总
【NLP CS224N笔记】Lecture 1 - Introduction of NLP【NLP CS224N笔记】Lecture 2 - Word Vector Representations: word2vec
NLP+词法系列（二）︱中文分词技术简述、深度学习分词实践（CIPS2016、超多案例）
摘录自：CIPS2016 中文信息处理报告《第一章 词法和句法分析研究进展、现状及趋势》P4 CIPS2016 中文信息处理报告下载链接：http://cips-upload.bj.bcebos.com/cips2016.pdf之前写过一篇中文分词总结，那么在那篇基础上，通过在CIPS2016的...
[转]【NLP】干货！Python NLTK结合stanford NLP工具包进行文本处理 阅读目录
【NLP】干货！Python NLTK结合stanford NLP工具包进行文本处理 原贴: https://www.cnblogs.com/baiboy/p/nltk1.html阅读目录目录1 NLTK和StandfordNLP简介2 安装配置过程中注意事项3 StandfordNLP必要工具...
【NLP】Python NLTK获取文本语料和词汇资源
Python NLTK 获取文本语料和词汇资源作者：白宁超2016年11月7日13:15:24摘要：NLTK是由宾夕法尼亚大学计算机和信息科学使用python语言实现的一种自然语言工具包，其收集的大量公开数据集、模型上提供了全面、易用的接口，涵盖了分词、词性标注(Part-Of-Speech tag...
【NLP】干货！Python NLTK结合stanford NLP工具包进行文本处理
干货！详述Python NLTK下如何使用stanford NLP工具包作者：白宁超2016年11月6日19:28:43摘要：NLTK是由宾夕法尼亚大学计算机和信息科学使用python语言实现的一种自然语言工具包，其收集的大量公开数据集、模型上提供了全面、易用的接口，涵盖了分词、词性标注(Part-...
【NLP】Python NLTK处理原始文本
Python NLTK 处理原始文本作者：白宁超2016年11月8日22:45:44摘要：NLTK是由宾夕法尼亚大学计算机和信息科学使用python语言实现的一种自然语言工具包，其收集的大量公开数据集、模型上提供了全面、易用的接口，涵盖了分词、词性标注(Part-Of-Speech tag, POS...
基于OpenSeq2Seq的NLP与语音识别混合精度训练
基于OpenSeq2Seq的NLP与语音识别混合精度训练Mixed Precision Training for NLP and Speech Recognition with OpenSeq2Seq迄今为止，神经网络的成功建立在更大的数据集、更好的理论模型和缩短的训练时间上。特别是顺序模型，可以从...
转载：深度学习在NLP中的应用
之前研究的CRF算法，在中文分词，词性标注，语义分析中应用非常广泛。但是分词技术只是NLP的一个基础部分，在人机对话，机器翻译中，深度学习将大显身手。这篇文章，将展示深度学习的强大之处，区别于之前用符号来表示语义，深度学习用向量表达语义。这篇文章的最大价值在于，为初学者指明了研究方向。下面为转载的原...
Coursera Deep Learning笔记 序列模型（二）NLP & Word Embeddings(自然语言处理与词嵌入)
参考1. Word Representation之前介绍用词汇表表示单词，使用one-hot 向量表示词，缺点：它使每个词孤立起来，使得算法对相关词的泛化能力不强。从上图可以看出相似的单词分布距离较近，从而也证明了Word Embeddings能有效表征单词的关键特征。2. 词嵌入(word emb...
NLP:单词嵌入Word Embeddings
深度学习、自然语言处理和表征方法原文链接：http://blog.jobbole.com/77709/一个感知器网络（perceptron network）。感知器 （perceptron）是非常简单的神经元，如果超过一个阈值它就会被启动，如果没超过改阈值它就没反应。感知器网络的输入和输出都是是二进...
DL4NLP——词表示模型（二）基于神经网络的模型：NPLM；word2vec（CBOW/Skip-gram）
本文简述了以下内容：神经概率语言模型NPLM，训练语言模型并同时得到词表示word2vec：CBOW / Skip-gram，直接以得到词表示为目标的模型（一）原始CBOW(Continuous Bag-of-Words)模型（二）原始Skip-gram模型（三）word analogy神经概率语言...
[NLP] 酒店名归类
目标：我们内部系统里记录的酒店名字是由很多人输入的，每个人输入的可能不完全一样，比如，‘成都凯宾斯基大酒店’， ‘凯宾斯基酒店’， ‘凯宾斯基’， 我们的初步想法是能不能把大量的记录归类，把很多相似的名字归成一类，然后自动给出一个建议的名字向量化和建模：大概的想法是，先找出一个相似性算法，然后在调用...
NLP1 —— Python自然语言处理环境搭建
最近开始研究自然语言处理了，所以准备好好学习一下，就跟着《Python自然语言处理》这本书，边学边整理吧安装Mac里面自带了python2.7，所以直接安装nltk就可以了。默认执行sudo pip install -U nltk会报错：Collecting nltk Downloading nl...