【论文笔记】DeepWalk

论文名称：DeepWalk: Online Learning of Social Representations

本文是第一个将NLP中的思想用在网络嵌入(Network Embedding,NE)上的。

Introduction

文章简介部分介绍了网络嵌入是什么，以社交网络为例，网络嵌入就是将网络中的点用一个低维的向量表示，并且这些向量要能反应原先网络的某些特性，比如如果在原网络中两个点的结构类似，那么这两个点表示成的向量也应该类似。

本文提出了一种网络嵌入的方法叫DeepWalk，它的输入是一张图或者网络，输出为网络中顶点的向量表示。DeepWalk通过截断随机游走(truncated random walk)学习出一个网络的社会表示(social representation)，在网络标注顶点很少的情况也能得到比较好的效果。并且该方法还具有可扩展的优点，能够适应网络的变化。

Problem Definition

图G定义如下，由顶点集V和边集E组成：

如果在图G的基础上再加上顶点的向量表示和顶点所属的标注（网络节点分类问题中，网络中的每个顶点都有一个类别，所属的类别即为该顶点的标注）就构成了一个标注图(labeled graph)。顶点的表示X是一个|V|×s维的矩阵，|V|表示顶点的数量，s是代表每个顶点的向量的维数（一般比较小），所以X即为将每个顶点的向量结合在一起形成的矩阵。Y则是每个顶点的标注构成的矩阵。

Learning social representations

文中提到，在学习一个网络表示的时候需要注意的几个性质：

适应性，网络表示必须能适应网络的变化。网络是一个动态的图，不断地会有新的节点和边添加进来，网络表示需要适应网络的正常演化。
属于同一个社区的节点有着类似的表示。网络中往往会出现一些特征相似的点构成的团状结构，这些节点表示成向量后必须相似。
低维。代表每个顶点的向量维数不能过高，过高会有过拟合的风险，对网络中有缺失数据的情况处理能力较差。
连续性。低维的向量应该是连续的。

提到网络嵌入，可能会让人联想到NLP中的word2vec，也就是词嵌入(word embedding)。前者是将网络中的节点用向量表示，后者是将单词用向量表示。因为大多数机器学习的方法的输入往往都是一个向量，算法也都基于对向量的处理，从而将不能直接处理的东西转化成向量表示，这样就能利用机器学习的方法对其分析，这是一种很自然的思想。

本文处理网络节点的表示(node representation)就是利用了词嵌入（词向量）的的思想。词嵌入的基本处理元素是单词，对应网络网络节点的表示的处理元素是网络节点；词嵌入是对构成一个句子中单词序列进行分析，那么网络节点的表示中节点构成的序列就是随机游走。

所谓随机游走(random walk)，就是在网络上不断重复地随机选择游走路径，最终形成一条贯穿网络的路径。从某个特定的端点开始，游走的每一步都从与当前节点相连的边中随机选择一条，沿着选定的边移动到下一个顶点，不断重复这个过程。下图所示绿色部分即为一条随机游走。

关于随机游走的符号解释：以 v_i 为根节点生成的一条随机游走路径（绿色）为 W_{v_i} ，其中路径上的点（蓝色）分别标记为 W^1_{v_i},W^2_{v_i},W^3_{v_i} …，截断随机游走(truncated random walk)实际上就是长度固定的随机游走。

使用随机游走有两个好处：

并行化，随机游走是局部的，对于一个大的网络来说，可以同时在不同的顶点开始进行一定长度的随机游走，多个随机游走同时进行，可以减少采样的时间。
适应性，可以适应网络局部的变化。网络的演化通常是局部的点和边的变化，这样的变化只会对部分随机游走路径产生影响，因此在网络的演化过程中不需要每一次都重新计算整个网络的随机游走。

文中提到网络中随机游走的分布规律与NLP中句子序列在语料库中出现的规律有着类似的幂律分布特征。那么既然网络的特性与自然语言处理中的特性十分类似，那么就可以将NLP中词向量的模型用在网络表示中，这正是本文所做的工作。

首先来看词向量模型：

w^u_i = (w_0,w_1,w_2,…,w_n) 是一个由若干单词组成的序列，其中 w_i∈V(Vocabulary)，V 是词汇表，也就是所有单词组成的集合。

在整个训练集上需要优化的目标是：

Pr(w_n|w_0,w_1,…,w_n-1)

比如下面的单词组成的序列：

优化目标就是 Pr(w_3|w_0,w_1,w_2) ，意思就是当知道I like studying后，下一个词是English的概率为多少？

如果将单词对应成网络中的节点 v_i ，句子序列对应成网络的随机游走，那么对于一个随机游走 (v_0,v_1,…,v_i) 要优化的目标就是：

Pr(v_i|(v_0,v_1,…,v_{i-1}))

按照上面的理解就是，当知道 (v_0,v_1,…,v_{i-1}) 游走路径后，游走的下一个节点是 v_i 的概率是多少？可是这里的 v_i 是顶点本身没法计算，于是引入一个映射函数，它的功能是将顶点映射成向量（这其实就是我们要求的），转化成向量后就可以对顶点 v_i 进行计算了。

映射函数对网络中每一个节点映射成d维向量，实际上是一个矩阵，总共有|V|×d个参数，这些参数就是需要学习的。

有了之后， (v_i) 就是一个可以计算的向量了，这时原先的优化目标可以写成：

Pr(v_i|( (v_0), (v_1),…, ({v_i-1})))

但是怎么计算这个概率呢？同样借用词向量中使用的skip-gram模型

skip-gram模型有这样3个特点：

不使用上下文（context）预测缺失词（missing word），而使用缺失词预测上下文。因为 ( (v_0), (v_1),…, ({v_i-1})) 这部分太难算了，但是如果只计算一个 (v_k) ，其中 v_k 是缺失词，这就很好算。
同时考虑左边窗口和右边窗口。下图中橘黄色部分，对于 v_4 同时考虑左边的2个窗口内的节点和右边2个窗口内的节点。
不考虑顺序，只要是窗口中出现的词都算进来，而不管它具体出现在窗口的哪个位置。

应用skip-gram模型后，优化目标变成了这样：