NLP+2vec︱认识多种多样的2vec向量化模型
1、word2vec
耳熟能详的NLP向量化模型。
Paper: https://papers.nips.cc/paper/5021-distributed-representations-of-words-and-phrases-and-their-compositionality.pdf
Java: http://deeplearning4j.org/word2vec
C++: https://github.com/jdeng/word2vec
Python:
https://radimrehurek.com/gensim/models/word2vec.html
https://github.com/danielfrg/word2vec
2、doc2vec
Paper: https://cs.stanford.edu/~quocle/paragraph_vector.pdf
Python: https://radimrehurek.com/gensim/models/doc2vec.html
word2vec模型对词向量进行平均处理,我们仍然忽略了单词之间的排列顺序对情感分析的影响。即上述的word2vec只是基于词的维度进行”语义分析”的,而并不具有上下文的”语义分析”能力。
作为一个处理可变长度文本的总结性方法,Quoc Le 和 Tomas Mikolov 提出了 Doc2Vec方法。除了增加一个段落向量以外,这个方法几乎等同于 Word2Vec。和 Word2Vec 一样,该模型也存在两种方法:Distributed Memory(DM) 和 Distributed Bag of Words(DBOW)。DM 试图在给定上下文和段落向量的情况下预测单词的概率。在一个句子或者文档的训练过程中,段落 ID 保持不变,共享着同一个段落向量。DBOW 则在仅给定段落向量的情况下预测段落中一组随机单词的概率。
(参考:Algorithm & NLP] 文本深度表示模型——word2vec&doc2vec词向量模型 )
3、tweet2vec
Paper: https://arxiv.org/abs/1605.03481
Python: https://github.com/bdhingra/tweet2vec
一些社交文本中的语言结构跟书面语大不相同,所以作者别出心裁的特意做了一个基于字符组合的模型,其可以基于整个微博环境下复杂、非正常语言的字符串中学习到一种向量化的表达方式。
4、batter-pitcher-2vec
Python: https://github.com/airalcorn2/batter-pitcher-2vec
5、illustration-2vec
Python: https://github.com/rezoo/illustration2vec
6、lda2vec
Paper: https://arxiv.org/pdf/1605.02019v1.pdf
Python: https://github.com/cemoody/lda2vec
将LDA与word2vec相结合,LDA是我比较在意的研究方向,这个模型很早提出,不过应用地倒是不多。
lda2vec the topics can be ‘supervised’ and forced to predict another target.
7、sentence2vec
Python: https://github.com/klb3713/sentence2vec
8、wiki2vec
Java/Scala: https://github.com/idio/wiki2vec
9、topicvec
Paper: http://bigml.cs.tsinghua.edu.cn/~jun/topic-embedding.pdf
Python: https://github.com/askerlee/topicvec
10、entity2vec
Python: https://github.com/ot/entity2vec
Paper: http://www.di.unipi.it/~ottavian/files/wsdm15_fel.pdf
11、str2vec
Python: https://github.com/pengli09/str2vec
12、node2vec
Paper: https://arxiv.org/abs/1607.00653
Page: https://snap.stanford.edu/node2vec/
Python: https://github.com/aditya-grover/node2vec
可见:笔记︱基于网络节点的node2vec、论文、算法python实现
13、item2vec
Paper: https://arxiv.org/abs/1603.04259
14、author2vec
15、playlist-to-vec
Python: https://github.com/mattdennewitz/playlist-to-vec
16、sense2vec
Paper: https://arxiv.org/abs/1511.06388
17、med2vec
Paper: https://arxiv.org/abs/1602.05568
Python: https://github.com/mp2893/med2vec
SCODE Word Embeddings using Substitute Words
Python: https://github.com/ai-ku/wvec
18、game2vec
Python: https://github.com/warchildmd/game2vec
19、paper2vec
Paper: https://arxiv.org/pdf/1703.06587.pdf
转自:http://blog.csdn.net/sinat_26917383/article/details/69666596
NLP+2vec︱认识多种多样的2vec向量化模型的更多相关文章
- NLP学习(2)----文本分类模型
实战:https://github.com/jiangxinyang227/NLP-Project 一.简介: 1.传统的文本分类方法:[人工特征工程+浅层分类模型] (1)文本预处理: ①(中文) ...
- 自然语言处理NLP学习笔记一:概念与模型初探
前言 先来看一些demo,来一些直观的了解. 自然语言处理: 可以做中文分词,词性分析,文本摘要等,为后面的知识图谱做准备. http://xiaosi.trs.cn/demo/rs/demo 知识图 ...
- 【NLP】揭秘马尔可夫模型神秘面纱系列文章(一)
初识马尔可夫和马尔可夫链 作者:白宁超 2016年7月10日20:34:20 摘要:最早接触马尔可夫模型的定义源于吴军先生<数学之美>一书,起初觉得深奥难懂且无什么用场.直到学习自然语言处 ...
- 【NLP】揭秘马尔可夫模型神秘面纱系列文章(二)
马尔可夫模型与隐马尔可夫模型 作者:白宁超 2016年7月11日15:31:11 摘要:最早接触马尔可夫模型的定义源于吴军先生<数学之美>一书,起初觉得深奥难懂且无什么用场.直到学习自然语 ...
- 【NLP】揭秘马尔可夫模型神秘面纱系列文章(三)
向前算法解决隐马尔可夫模型似然度问题 作者:白宁超 2016年7月11日22:54:57 摘要:最早接触马尔可夫模型的定义源于吴军先生<数学之美>一书,起初觉得深奥难懂且无什么用场.直到学 ...
- 【NLP】揭秘马尔可夫模型神秘面纱系列文章(四)
维特比算法解决隐马尔可夫模型解码问题(中文句法标注) 作者:白宁超 2016年7月12日14:08:28 摘要:最早接触马尔可夫模型的定义源于吴军先生<数学之美>一书,起初觉得深奥难懂且无 ...
- 【NLP】揭秘马尔可夫模型神秘面纱系列文章(五)
向前向后算法解决隐马尔可夫模型机器学习问题 作者:白宁超 2016年7月12日14:28:10 摘要:最早接触马尔可夫模型的定义源于吴军先生<数学之美>一书,起初觉得深奥难懂且无什么用场. ...
- NLP直播-1 词向量与ELMo模型
翻车2次,试水2次,今天在B站终于成功直播了. 人气11万. 主要讲了语言模型.词向量的训练.ELMo模型(深度.双向的LSTM模型) 预训练与词向量 词向量的常见训练方法 深度学习与层次表示 LST ...
- TF-IDF与主题模型 - NLP学习(3-2)
分词(Tokenization) - NLP学习(1) N-grams模型.停顿词(stopwords)和标准化处理 - NLP学习(2) 文本向量化及词袋模型 - NLP学习(3-1) 在上一篇博文 ...
随机推荐
- ECMAScript 5 新增的Array方法
引自:by zhangxinxu from http://www.zhangxinxu.com ES5中新增了写数组方法,如下: forEach (js v1.6) map (js v1.6) fil ...
- istio1.1(openshift) 流量路由
1.准备测试应用 准备两个nginx Pod和一个proxy 创建应用 apiVersion: apps.openshift.io/v1 kind: DeploymentConfig metadata ...
- c++新特性实验(3)声明与定义:constexpr
1.作用 constexpr 声明一个函数或变量,它的值可以在编译时出现在常量表达式之中. 2.constexpr 变量要求 其类型必须是 字面类型 (LiteralType) . 它必须被立即初始化 ...
- 原生js增加,移除类名
<!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8&quo ...
- idea中隐藏.idea文件夹和.iml文件
idea中的.idea文件夹和.iml是平常几乎不使用的文件,在创建父子工程或者聚合工程时反而会对我们操作产生干扰,所以,一般情况下,我们都将其隐藏掉,步骤如下: 操作前: 具体操作:File——&g ...
- navicat修改mysql用户密码,前提是能登陆
幸亏之前已经连上了数据库后边才忘记密码
- UvaLive1347
Programming contests became so popular in the year 2397 that the governor of New Earck — the largest ...
- SQL SERVER 自增列的方法
declare @Table_name varchar(60) set @Table_name = ''; if Exists(Select top 1 1 from sysobjects ...
- 【笔记】LR配置ODBC连接数据库进行参数化(mysql )未完待续
很多时候我们需要大量的参数数据,但是光光靠手填写是非常麻烦的,既然被测对象的数据都在数据库,那么我们直接读取数据库回来就轻松简便很多. data wizard 提供了一个从ODBC的连接获得数据转化 ...
- DX9纹理半像素偏移-Directly Mapping Texels to Pixels
原文:DX9纹理半像素偏移-Directly Mapping Texels to Pixels 版权声明:本文为博主原创文章,未经博主允许不得转载. https://blog.csdn.net/u01 ...