Google 的秘密- PageRank 彻底解说 中文版 四

4.实际应用时的问题
<>ageRank 的基本考虑方法并不是很难的东西。实用效果中的巨大成分并不是复杂离奇的算法，而是进行简单的线性变换，倒不如都属于简明直观的类别吧。但是，实际使用 Web 超级链接构造来计算 PageRank 的话，不是简单地能够用嘴巴来说明的东西。主要的困难主要有二个。一、由来于纯粹假设的数值模型和现实世界的不同；二，在实际数值计算上(专门技术的)困难。 </P>
准备:数学用语(主要概率过程)的解说
<>推移概率行列和概率过程上的马尔可夫过程存在很深的关系。本章先离开与 PageRank 本身的说明，预先说明几个呈现在概率过程上的数学用语。因为会设计相当难的部分，如果不能够理解也可以跳过这里。(也可能是我的说明方法不好) 同时，请注意这里几乎没有证明就直接使用了。详细的解说请阅读教科书。 </P>
<>从有向图表S的状态 i 出发，将有限时间之后再次回复到状态 i 的概率作为 1 时，也就是说，当沿着(有向)图表的方向前进能够回到原来位置的路径存在的时候，i 就被成为「回归」。不能回归的状态被称为「非回归」。从状态 i 出发，当通过有限次数的推移达到状态 j 的概率非负的时候，我们就说「从状态 i 到达状态 j 是可能的」。当反方向也可能到达的时候，我们称「i 和 j 互相可能到达」。从状态 i 不能到达其他任何状态的时候，称 i 为「吸收状态」。 </P>
<>从邻接行列 A 所决定的图表(graph)的任意顶点出发，指向其他任意的顶点图表的路径能够像箭头那样到达时被称为「强联结」( 也被称为「分解不能」)。强联结，等价于从任意状态到任意状态可以互相到达。邻接行列 A 的成分中有很多 0 时，强联结性就会有问题。注意，如果全部成分都为 aij ≠0 的话，则都属于强联结。因为，对应的 马尔可夫链的样本路径表示 S 的任意两点间以正的概率来往通行。</P>
<>我们可以把全体状态以等价类(或者回归类)来划分。在这里，回归类是指链接所围成的范围。属于一个等价类的状态可以互相到达。从一个类出发以正的概率进入到其他的类的可能性也是存在的。可是很明显，在这种情况下不可能回复到原来的类。不然的话，这两个类就归于等价类了。下图表示了，当 T 作为非回归性的等价类、R 作为回归性等价类时,虽然存在 马尔可夫链 既不来自回归类，也不来自非回归类的情况，但如果一旦来自前两者的话，就不再会回到非回归类中了。</P>
回归、非回归示意图(修改了小谷(1997)的图11.1)
<>这个等价关系中只有一个回归类的时候，那个 马尔可夫链就被称为「最简」。换句话说，全部的状态之间互相可以到达时就被称为最简。最简时都是强联结。 </P>
<>互相完全没有关联的邻接行列(或推移概率行列)，乘以恰当的置换行列(掉换行和列)以后得到</P> = | P1 0 |
    | 0 P2 |
<>这样的关系。这表示回归类 P1 和 P2 间完全不存在直接的链接关系。 </P>
<P>回归类、非回归类掺杂在一起的邻接行列(或推移概率行列)，乘以恰当的置换行列后得到， </P>P = | P1 0 |
    | Q P2 |
<P>这样的关系(Q≠0)。此时，P1是非回归类，P2是回归类。 </P>
<P>推移概率行列有时也被称作马尔可夫行列。称马尔可夫过程的试验行列的观测结果为马尔可夫链(Markov chain)。 当经过相当的时间后马尔可夫链会趋向某种平衡状态。对任意的状态 i, 如果 j 是非回归状态，则 Pij(n)→0。相反，当 i 为非回归、j 为回归时，停留在状态 i 上着的概率是0。如果 i，j 属于同样的非周期性回归类的话，Pij(n)→Pj≥0。 </P>
<P>定理:若 P 是有限马尔可夫行列的话，P 的特性值 1 的重复度等于 P 决定的回归类的数目。(证明太长，省略)。 </P>
<P>跟随着推移概率行列的有向图表的最大强联结成分(与之对应的状态的集合)被称为Ergodic部分(历遍部分)，此外的强联结成分被称为消散部分。因为无论从怎样的初期状态概率 x(0)开始，经过时间 n 后 x(n) = P(n)x(0)，所以属于消散部分的状态概率几乎接近于0。关于EllGoth部分，连同与各联结成分对应状态的类、像独立的最简的马尔可夫链一样行动，其中，各类中的状态概率(即从过去开始的平均值)的值和初期状态概率无关，换言之，是近似于与对应 P 的最简成分的固有矢量成比例的东西。在类之间概率的分配依存于初期状态的概率。 </P>
<P>离散时间型马尔可夫链的不变分布是属于极限分布，从那个分布开始已经不是在分布意义上的随时间的变化了。状态的概率分布在时间变化时也不会变化时被称为固定分布。PageRank 用马尔可夫过程来说就是，PageRank就是以一定时间内用户随机地沿着(网页)链接前进时对各个页面访问的固定分布。 </P>
假想模型和现实世界的不同
<P>那么，让我们将概率过程(即图表原理)的考虑方法和实际的网页链接构造合起来看一看。 </P>
<P>对于刚才举例的假想网页群来说，只要相互顺着链接前进则在彼此页面间必定有相互链接的关系。即，有向图表是强联结的行列既是回归又是最简。像上面举的很多的概率过程的教科书一样，许多证明都是把回归和最简作为前提来证明的，如果是最简的话，各种各样的性质就变得容易说了。 </P>
<P>但是现实的网页并不是强联结。也就是说邻接行列不是最简的。具体来说，顺着链接前进的话，有时会走到完全没有向外链接的网页。通常这样的情况，只有利用 web 浏览器的「返回」功能了。如果人们只是浏览而已的话，一切就到此结束了，然而 PageRank 的计算却不能到此结束。因为PageRank 一旦被引入以后是不能返回的。Pagerank 称这种页面为为「dangling page」。同样道理，只有向外的链接而没有反向链接的页面也是存在的。但 Pagerank 并不考虑这样的页面,因为没有流入的 PageRank 而只流出的 PageRank，从对称性来考虑的话必定是很奇怪的。 </P>
<P>同时，有时候也有链接只在一个集合内部旋转而不向外界链接的现象。这是非周期性的回归类多重存在时可能出现的问题。(请读者考虑一下陷入上图中一个 R 中而不能移动到别的 R 和 T 的情况)。 Pagerank 称之为「rank sink」。在现实中的页面，无论怎样顺着链接前进，仅仅顺着链接是绝对不能进入的页面群总归存在，也就是说，这些页面群是从互相没有关联的多数的同值类(回归类)形成的。 </P>
<P>总之，由现实的 Web 页组成的推移概率行列大部分都不是最简的。当不是最简时，最大特性值(即1)是重复的，并且不能避免优固有矢量多数存在的问题。换句话说，PageRank 并不是从一个意义上来决定的。</P>
<P>在此，Pagerank 为了解决这样的问题，考虑了一种「用户虽然在许多场合都顺着当前页面中的链接前进,但时常会跳跃到完全无关的页面里」,这样的浏览模型。再者，将「时常」固定为 15％ 来计算。用户在 85％ 的情况下沿着链接前进,但在 15％ 的情况下会突然跳跃到无关的页面中去。(注agerank 的原始手法是各自87％(＝1/1.15 )和13％(＝0.15/1.15)。) </P>
<P>将此用算式来表示的话得到以下公式。 </P>

<P>M'= c*M +(1-c)*[1/N] </P>
<P>其中，[1/N]是所有要素为 1/N 的 N次正方行列，c =0.85(=1-0.15)。M'当然也同样是推移概率行列了。也就是说，根据 Pagerank 的变形，原先求行列 M 的特性值问题变成了求行列 M'的优固有矢量特性值问题。M 是固定无记忆信息源(i.i.d.)时，M'被称为「混合信息源」，这也就是固定但非ellGoth信息源的典型例子。 </P>
<P>如果从数学角度看，「把非最简的推移行列最简化」操作的另外一种说法就是「把不是强联结的图表变成强联结」的变换操作。所谓对全部的要素都考虑0.15的迁移概率，就是意味着将原本非最简的推移概率行列转换为最简并回归的（当然非负的情况也存在）推移概率行列。针对原本的推移概率行列，进行这样的变换操作的话，就能从一个意义上定义 PageRank、也就是说能保证最大特性值的重复度为1。如果考虑了这样的变换操作的话，因为推移概率行列的回归类的数目变成 1 的同时也最简化，根据前面的定理，优固有矢量(即 PageRank)就被从一个意义上定义了。</P>
数值计算上的问题点(其1)
<P>在此，只要大概明白 PageRank 的概念就可以了，不需要很深的陷入数值计算上的技术的问题中(其实，笔者自己即使有自信也说不清楚)。但是，因为特性值分析和联立一次方程式分析一样，是利用在各种的统计分析中重要的数值计算手法的一中，所以这里我们简单的触及一些分析方法。 </P>
<P>主记忆领域的问题是在数值计算上的问题之一。 </P>
<P>假设 N 是 104 的 order。通常，数值计算程序内部行列和矢量是用双精度记录的，N 次正方行列 A 的记忆领域为 sizeof(double)* N * N =8 *104 * 104＝800MB。 800MB 的主记忆领域不是那种经常会拥有的东西, 虽然这么说也非那种不可能的数字。但是，N 如果变成 105 或106 的话，各自就变成80GB,8TB。这样的话不用说内存就连硬盘也已经很困难了。 Google 从处理着10亿以上的页面(2001年时)以来，就知道这种规矩的做法已经完全不适用了。</P>
<P>不过，A 只是稀疏(sparse)行列。因为即使有一部分的页面拼命地进行链接，但是向整个Web展开链接的页面是没有的，即使有也是极为稀少的。平均一下，每一张页面有10-20个左右的链接(根据 IBM Almaden 研究所'Graph structure in the web' 的统计，平均在16.1个左右)。因此，我们可以采用恰当的压缩方法来压缩 A 。 N 即使是 106 时，如果平均链接数是10，最终的记忆领域只要 80MB，从规模上来说可以收纳到合理的数字里。 </P>
<P>稀疏行列的容纳方式当今已经被充分地研究(有限要素法的解法等)，在恰当的数值计算的专业书中就可以学到。虽然这么说，因为相当地难解还是需要很复杂的手法。但想指出的是如果可以很好的解决的话，并列化的高速计算(也许)就变得可能了。因为比起怎样排列并容纳非零要素来说，计算性能和并列性能对其的影响会更大。 </P>
数值计算上的问题点(其2)
<P>另一个是收敛问题。 </P>
<P>固定方程式 </P>

<P>xi＝ΣAijxi </P>
<P>是 N 元的联立一次方程式，一般地不能得到分析解，所以只能解其数值。刚才举的例子中为了求特性值和固有矢量，使用了 Octave 的 eig()函数, 不过，这个在问题小的时候不能适用。说起来，并不需要计算全部的特性值/固有矢量。</P>
<P>求最大特性值和属于它的固有矢量(优固有矢量)的数值计算手法中，一般使用「幂乘法」(也叫反复法)。这是指，取适当初期矢量 x0 ，当 x(n+1) = A y(n) (其中 y(n) = x(n) / c(n) )中的 n →∞ 时，x 向拥有最大特性值的固有矢量收敛的同时 c 向此最大特性值收敛的利用线形代数性质的计算方法(证明请参照线形代数的教科书)。幂乘法(反复法)的特长与逐次反复计算的近似法比，能够改善解矢量的问题。它的优点是，因为只要反复对行列和矢量进行适当次数的乘法运算，所以只要通过程序就能够简单地解决，并且还可以进行由于受到内存和硬盘的限制通过直接法不能解决的大规模分析。这是许多的实用算法的出发点。 </P>
<P>在这里，请注意从线形代数的简单定理(Peron-Frobenius定理)得到推移概率行列的绝对价值的最大特性值是1。如果采用了这个，就会使得反复法的 PageRank 的计算变得更容易。即，因为最大特性值是既知的，比起求满足 Ax=x 的矢量 x来说 ，变成更加简单的问题了。这虽然是很细小的地方但是很重要。首先，可以去掉比较花费成本的除法计算 (y(n)=x(n)/c(n))不用完成。如果是反复法的话，不能得到很高的精确度，并且如果搞错了加速方法的话，计算出的不是是最大特性值而是第二大特性值和属于它的固有矢量(虽然这种情况很少，但是说不定就是从根本上错误的值)。但如果知道了最大特性值，就可以进行核对了。在 Pagerank 的第一篇论文中他们似乎没有注意到这个事情,但在 Haveliwala 的第二论文中增加了关于此的修正。</P>
<P>反复的次数取决于想要求的精度。也就是说，想要求的精度越高，反复的次数就越多。可是，幂乘法(反复法)的误差的收敛比与系数行列的谱段特性(特性值的绝对值分布)有很强的依存关系。具体地说，绝对值最大的特性值用λ1表示，第二位用 λ2 表示，优越率(收敛率 probability of dominance)为 d =λ1/λ2 话，可以知道d离1越近收敛就变得越慢。在 N 很大的情况时d当然离1很近。这是因为，绝对值最大的特性值是1，而其他所有的 N-1 个特性值的绝对值都比1小。但是，N-1个特性值之间非常的拥挤，所以λ1和λ2 之间几乎没有差别。因此一般来说，收敛会变慢。</P>
<P>所谓收敛变慢，严密地说，就是无论经过多少时间也完成不了的计算。对此，为了使收敛加快的适当的加速方法也是存在的，应用这些方法时，需要对数值计算技术有十二分的理解，因此如果不是数值计算的专家就很难引入。</P>