[转] GloVe公式推导
from: https://pengfoo.com/post/machine-learning/2017-04-11
GloVe(Global Vectors for Word Representation)是斯坦福大学发表的一种word embedding 方法,GloVe: Global Vectors for Word Representation,它看起来很new,其实有着old school的内核。GloVe尝试借鉴NNLM和word2vec的优势来弥补旧方法的劣势,取得了不错的效果。该文发表于word2vec之后,其方法内核比较朴实和简单,实现也颇有粗暴之处。官方实验中,GloVe是略胜w2v一筹的,至于实际应用如何,还是建议再进行试验,或者作为一种算法补充。
个人实验中,GloVe是略逊于w2v的,不过一来是肉眼debug,二来场景并不是十分典型的NLP场景,故见仁见智,仍然建议再做实验再来定夺。
Word Representation 历史
自然语言处理(Natural Language Processing),曾经也叫做“Computational linguistics”。从名字就能看出,核心就在于让language变得computational,在可以计算的前提下,一切计算机/数学方法才得以使用。
这就是word representation的出发点,将language/paragraph/sentence/word/character 用数学形式来表示。目前通常采用的representation形式是向量形式。
简单梳理一下word representation的历史,了解各方法的背景和之间联系,有助于对word embedding有更好的理解,以及更好地理解GloVe。
Non-distributed Representation
One-hot Encoding
最简单的编码方式当然是one hot 形式,每个词独占一个维度,每个词向量 有一个维度是1,其他为0,词向量的维度是vocabulary的长度。
如句子'a dog is not a cat'中,按照one hot encoding,有:
vocab = ('a', 'dog', 'is', 'not', 'cat')
a = [1, 0, 0, 0, 0]
dog = [0, 1, 0, 0, 0]
is = [0, 0, 1, 0, 0]
not = [0, 0, 0, 1, 0]
cat = [0, 0, 0, 0, 1]
One hot 编码的特点是假设所有的word互相独立,这是一个很强的假设,显然在有些任务中并不合适,如词语相似度方面,dog
和cat
的相似度应当比dog
和not
高,但是在one hot中,他们都是0。
One-hot的优缺点
One hot encoding的优点:
- 至少让word 有了一个向量表示,让语言可以计算
- one hot encoding 很稀疏,在一些对稀疏数据友好的问题(如部分分类问题)有比较不错的效果
One hot encoding的缺点:
- 假设太强,许多NLP task不适用
- 对大词库的language建模,向量维度太大,难以储存
- 无法加入新词
在One hot encoding的缺点中,无法加入新词的原因是,一个维度只表达一个word的信息,一个word的信息也只由一个维度表达,满足这个映射特性的word representation叫做Non-distributed Representation, 也叫做Localist Representation。
Distributed Representation
与Non-distributed Representation相对地,有Distributed Representation的概念。Distributed Representation的意思是,描述language的向量是定长的(fix-length),在定长的向量中,一个语义信息可能由多个维度共同决定,一个维度也可能决定着多方面的语义信息。此时,word vector就比较稠密(dense),不再像one-hot encoding一样稀疏。
在这种表示方法下,word vector可以大大缩短向量长度,因此,通常得到Distributed Representation的word vectors的方法也叫做word embedding方法(直译即词嵌入,将word的语义信息嵌入fix-length的向量中)。
矩阵分解方法
以下内容需要线性代数和矩阵分解的相关知识
对推荐系统的矩阵分解算法有了解会更有利于理解这部分内容
Word都出现在document中,应用bag-of-words[5]或者sliding window,可以得到cooccurence matrix,如:
对于如下的三句话的语料:
- I enjoy flying.
- I like NLP.
- I like deep learning.
有 共现矩阵:
对该共现矩阵进行SVD分解[6][7][8]来降维。
SVD是一个常见的矩阵分解算法,其基本原理如下:
奇异值类似主成分,在实际应用中,往往取top k个奇异值就能够表示绝大部分信息量,因此SVD经常拿来做损失较小的有损压缩:
SVD的几何意义实际上是通过线性变换来找到最能表达矩阵信息的一组正交基,原1*n维词向量在取得top k 奇异值后,可以用1*k维向量来表示该word,进而实现word embedding的效果。
如果想更深入理解SVD,推荐[6][7][8]三篇文章
用代码来实际跑一下:
import numpy as np
import matplotlib.pyplot as plt
la = np.linalg
words = ["I","like","enjoy","deep","learning","NLP","flying","."]
X=np.array([[0,2,1,0,0,0,0,0],
[2,0,0,1,0,1,0,0],
[1,0,0,0,0,0,1,0],
[0,1,0,0,1,0,0,0],
[0,0,0,1,0,0,0,1],
[0,1,0,0,0,0,0,1],
[0,0,1,0,0,0,0,1],
[0,0,0,0,1,1,1,0]])
U,s,Vh=la.svd(X,full_matrices=False)
plt.axis([-0.8,0.2,-0.8,0.8])
for i in xrange(len(words)):
plt.text(U[i,0],U[i,1],words[i])
plt.show()
结果如图下,可以看到,对三个句子的语料,已经有一点点语义距离的关系在里面了,比如enjoy和like在方向上是一致的,两个动词距离比较接近等等。
矩阵分解的优缺点
矩阵分解方法的优点是:
- 训练速度很快
- 能够实现word embedding
其缺点也很明显:
- 因为仅关注cooccurence,word vector包含的词向量语义信息有限,仅仅能进行词语相似度计算等有限的任务。
NNLM 以及 word2vec
于是发展到了用language model来搞事情的时代。
word vectors是LM的副产品,本来LM是用来做language modeling的。
这个方法出奇的好,因为lm相当于做了sentence粒度的modeling,对词语在语义空间上的建模更充分。
更多的话题不详细展开了,也不是本文重点,注意nnlm和word2vec的几个关键:
- 求解max log likelihood作为object func
- pair-wise应用SGD的求解过程
他们的好处是:
- 有了更多语言学层面的支撑,在更多NLP task上表现更好
- pair-wise的求解对计算资源很友好
但是,也有一些缺点:
- context 很小,没有使用全局的cooccur,所以实际上对cooccur的利用很少
GloVe
GloVe发明的初衷,就是想结合两者的长处,搞出一个充分利用统计量的更好train的适用程度更广的word embedding方法。
动机
我们注意到,在篇章中,语义距离相近的词,共现次数多,语义距离远的词贡献次数少。见图下:
然而可以看到的是,区分度不算高。于是想到,能否用共现之间的比值来增大区分度?
对于wordi,wordj,wordkwordi,wordj,wordk,应当有:
- 如果ij很相关,ik不相关,那么P(j|i)/P(k|i)P(j|i)/P(k|i)应当很大
- 如果ij很相关,ik也不相关,那么P(j|i)/P(k|i)P(j|i)/P(k|i)应当趋近于1
对应图上的数据,可以看到区分度已经好很多。
这就是GloVe的动机,对word-pair cooccur进行建模,拟合不同word-pair的cooccur之间的差异。
模型推导
根据GloVe的思想,我们关注:
其中,取wordiwordi的出现次数为XiXi, 定义Pij=P(j|i)=Xij/XiPij=P(j|i)=Xij/Xi表示在XiXi的context下wordjwordj的出现几率, F则是某一种能够实现我们需求的变换。
wi,wjwi,wj是实数空间下的wordi,wordjwordi,wordj的word vector,wk˜wk~也是实数空间下的wordkwordk的context word vector,其作用类似word2vec中的context vector。
在word2vec中,context vector最终被舍弃,但是由于GloVe的context只有一个word,所以这个context word vector也是一个word vector的,更加有趣的是,后面可以看到,在GloVe中,公式是完全对称的,所以两个word vector理论上拥有同样的表示能力,是同一个语义空间下的word representation。
因为一个好的word vector应当是线性可加减的,因此对于word之间的差异,可以用减法来进行衡量,可以拍脑门一个公式,将FF对向量的约束缩小为FF对向量差的约束,这样易于计算,也比较解释得通:
现在,参数变少了。又,我们目前关注的是很单纯很美的线性关系,而word vector通常都很多维度,每个维度照理来讲,是有其语义含义的,像NN那样上百维的向量进行非线性变换,让维度和维度之间进行运算,会丢掉这种单纯的关系在模型中的作用,因此GloVe 拍脑门一个公式,不妨让两个向量点乘一下,在公式中就约束住维度的“纯正血统”,避免维度之间不必要的计算:
这样就避免了长向量的复杂运算丢掉模型初心的问题。
回到问题本身,我们是基于cooccur进行计算,实际上在一次共现中wordi,wordjwordi,wordj是同等地位的,那么对于一个合适的FF,更换word pair单词的顺序理应不影响输出结果,换言之,FF应当是对称的,一个合适的FF应当满足 F(wi,wj)==F(wj,wi)F(wi,wj)==F(wj,wi),当然现在的公式还不满足这一点,GloVe想了办法让公式变得符合预期。
首先,想要公式能够对称,先让其拥有结构不变性,可以给未知的FF一个新的约束,使FF是一个同态变换:
选择除法有几个原因,一个是这样的同态变换好找(exp就是这样一个变换),二是和(5)式在形式和参数上都能完美符合.
(5)式和(6)式相对应的,有:
对于(6)式,我们很容易想到exp就是这样一个符合要求的变换:
我们将log(Xi)log(Xi)移到等式左边,它是wordiwordi的出现次数,是一个常量,和wordkwordk无关,因此可以归入wiwi的biasbibi中,为了保持公式的对称性,再加入wkwk的biasbkbk,公式变成:
这个公式呢,就是我们从(3)式的初心出发,推导出的一个具有比较漂亮的对称形式的公式,式左是我们对word vector的运算,式右是一个共现常量。看起来非常棒,其形式跟LSE也有相似之处,不过不展开了。
很容易得到Object function,一个典型的square loss:
当然此时还有问题,共现矩阵是很稀疏的,大部分共现都是0,需要合理的loss加权,对共现多的词给予更高关注,GloVe给了一个weighted square loss:
加权函数 ff为:
其图像如图:
意思是,在共现超过阈值后,其loss的权重维持在1.0的不变水平。当然,这也横生了两个超参:xmaxxmax 和 ααGloVe给的参考值分别为xmax=100,α=0.75xmax=100,α=0.75。
至此,GloVe推导完毕。过程到处充满了蛮横无理,最终形式倒出奇的还蛮好看。
两个词向量
上面说到,GloVe每个词涉及到两个词向量,一个词语本身的向量wiwi,一个词的context向量w~iw~i。最初这样设计,将word和context的向量分开,不用一套,是为了在更新参数的时候能够简单地套用SGD。
但是呢,我们可以看到,公式本身是对称的,context和word其实并没有什么区别。
那么两个向量应该是一样语义空间中的差不多的词向量,context word vector这个副产品自然不能落下,GloVe经过一番试验,最终发现,两个向量加起来最后起到的效果最好。
“这样损失了一些模型的可解释性,但是模型表现更好了”,助教在该校CS224N 2017 winter课程中如是说。
十分暴力,但无法反驳。
GloVe 和 其他模型的关系
当看到GloVe拍脑门找到loglog函数的时候,就觉得和word2vec中应用language model有几分类似。
其实确有千丝万缕的联系的,推一推,会发现两者的相似性,不过我写到这里懒得写了,更多的细节有兴趣可以自己琢磨下。
GloVe 使用
GloVe已经在github开源,源码以及binary可以在GloVe Github找到。
GloVe的代码写的比较糙,每一步是独立的程序,因此要按照以下步骤进行:
- 运行
./vocab_count
进行词频统计 - 运行
./cooccur
进行共现统计 - 运行
./shuffle
进行打散 - 运行
./glove
进行训练词向量
具体参数和word2vec比较类似,具体用法可以见
https://github.com/stanfordnlp/GloVe/blob/master/demo.sh。
Reference
[1] (Paper) GloVe: Global Vectors for Word Representation
[2] CS224N Lecture 3 | GloVe: Global Vectors for Word Representation
[3] GloVe Github
[4] word co-occurrence and theory of meaning
[5] Bag-of-words_model
[6] 奇异值分解(SVD)原理详解及推导
[7] 强大的矩阵奇异值分解(SVD)及其应用
[8] We Recommend a Singular Value Decomposition
费尽心思写了一个自己不那么喜欢的模型感觉有些奇怪,不过这是一篇很励志的paper和算法,它告诉我两个道理:
1. 发吊文章不一定需要特别吊的算法,也可以在老算法上改进一下,没准就很厉害
2. 斯坦福的厉害人物偶尔也会划划水
当然GloVe本身很厉害,只是写完了文章,调侃一下。
[转] GloVe公式推导的更多相关文章
- 词嵌入之GloVe
什么是GloVe GloVe(Global Vectors for Word Representation)是一个基于全局词频统计(count-based & overall statisti ...
- glove理解
先贴个看起来讲的不错的文章链接,后续详细看了再补充https://blog.csdn.net/leyounger/article/details/78206832 2018.10.28大概了解了下gl ...
- 详解Maple如何公式推导和生成代码
公式推导 直观自然的数学表达式,智能的关联菜单,交互式助手等协助您从容通过推导过程,让您更容易地完成解决方案的开发,快速.无错! 分析 Maple 内置超过大量的计算函数,包括积分变换,微分方程求解器 ...
- ZOJ 3903 Ant(公式推导)
这个公式推导过程是看的这位大牛的http://blog.csdn.net/bigbigship/article/details/49123643 扩展欧几里德求模的逆元方法: #include < ...
- (转)最小二乘法拟合圆公式推导及vc实现[r]
(下文内容为转载,不过已经不清楚原创的是哪里了,特此说明) 转自: http://www.cnblogs.com/dotLive/archive/2006/10/09/524633.html 该网址下 ...
- 前馈神经网络-反向传播(Back Propagation)公式推导走读
构造:输入神经元个数等于输入向量维度,输出神经元个数等于输出向量维度.(x1=(1,2,3),则需要三个输入神经元) 一 前向后传播 隐层:
- DL4NLP——词表示模型(一)表示学习;syntagmatic与paradigmatic两类模型;基于矩阵的LSA和GloVe
本文简述了以下内容: 什么是词表示,什么是表示学习,什么是分布式表示 one-hot representation与distributed representation(分布式表示) 基于distri ...
- NLP︱高级词向量表达(一)——GloVe(理论、相关测评结果、R&python实现、相关应用)
有很多改进版的word2vec,但是目前还是word2vec最流行,但是Glove也有很多在提及,笔者在自己实验的时候,发现Glove也还是有很多优点以及可以深入研究对比的地方的,所以对其进行了一定的 ...
- 转载泡泡机器人——IMU预积分总结与公式推导2
本文为IMU预积分总结与公式推导系列技术报告的第二篇. 承接第一篇的内容,本篇将推导IMU预积分的测量值,并分析其测量误差的分布形式. 传统捷联惯性导航的递推算法,以初始状态为基础,利用IMU测量得到 ...
随机推荐
- 玩玩LED点阵屏(arduino nano)
做些记录,特别是led显示左移效果的代码,二进制位的特效函数 unsigned ][]= { 0xff,0xd7,0x83,0xd6,0xc6,0xd4,0xc6,0x82,0xd6,0xba,0xf ...
- .NET 跨平台RPC框架DotNettyRPC
DotNettyRPC 1.简介 DotNettyRPC是一个基于DotNetty的跨平台RPC框架,支持.NET45以及.NET Standard2.0 2.产生背景 传统.NET开发中遇到远程调用 ...
- codeforces#1152D. Neko and Aki's Prank(dp)
题目链接: https://codeforces.com/contest/1152/problem/D 题意: 给出一个$n$,然后在匹配树上染色边,每个结点的所有相邻边只能被染色一次. 问,这颗树上 ...
- ccpc杭州站 赛后总结
Ccpc杭州站赛后总结 2017年11月4号五号,我参加了ccpc杭州站的比赛,我的队友是聂少飞和王艳,在4号一点半,举行了比赛开幕式,听着教练代表的发言,听着参赛选手代表的发言,听着志愿者的发言,都 ...
- MapReduce实例——求平均值,所得结果无法写出到文件的错误原因及解决方案
1.错误原因 mapreduce按行读取文本,map需要在原有基础上增加一个控制语句,使得读到空行时不执行write操作,否则reduce不接受,也无法输出到新路径. 2.解决方案 原错误代码 pub ...
- 关于Vue修改默认的build文件存放的dist路径
原文地址:http://www.cnblogs.com/JimmyBright/p/7681086.html Vue默认build路径是项目的dist目录下,有时候我们可能希望build之后的文件自动 ...
- Linux keepalived工作原理
keepalived简介与工作原理 Keepalived的作用是检测服务器的状态,如果有一台web服务器宕机,或工作出现故障,Keepalived将检测到,并将有故障的服务器从系统中剔除,同时使用其他 ...
- Linux-ftp虚拟用户配置
云服务器ESC 部署vsftpd 虚拟用户 说明:云服务器部署和本地服务器部署一样,都需要开通指定的相应端口,只不过云服务器需要在安全组规则中打开相应的端口允许通过. 环境说明: 对应的用户对应不同的 ...
- Codeforces Round #549 (Div. 2) 训练实录 (5/6)
The Doors +0 找出输入的01数列里,0或者1先出完的的下标. Nirvana +3 输入n,求1到n的数字,哪个数逐位相乘的积最大,输出最大积. 思路是按位比较,从低到高,依次把小位换成全 ...
- 浅谈Kubernetes生产架构
注意本文,只是笔者针对Kubernetes生产环境运行的一些关于架构设计和实现方案的总结,内容很粗糙,同时也会不断完善. 首先,我们来梳理下Kubernetes生产架构,其设计适用于绝大多数环境.如下 ...