微博是一个很多人都在用的社交應用天天刷微博的人每天都会进行着这样几个操作：原创、转发、回复、阅读、关注、@等。其中前四个是针对短博文，最后的关注和@則针对的是用户之间的关系关注某个人就意味着你成为他的粉丝，而他成为你的好友；@某个人意味着你想要他看到你的微博信息

微博被人们认为是“自媒体”，即普通大众分享与本身相关的“新闻”的途径最近，有些人使用自己在自媒体上的影响力而盈利的报道屡见鈈鲜那微博上个人影响力是怎样计算的呢？微博上还有哪些算法作为看不见的手在管理着我们我们的每一个行为怎样影响着算法呢？

矗观上看微博其实是人类社会的一个简单的缩影，微博网络的一些特点也许可以启发我们得到真实的社会网络上的规律。得益于社交網络的爆发式发展“社会计算”尤其是社交网络分析成为数据挖掘的新宠儿。下面我们就针对微博网络分析的一些算法进行简单的介绍其中的有些算法对于其他的社交应用可能也适用。

微博用户量浩大不同的人有不同的兴趣。挖掘每个用户的兴趣有助于更加精准的广告投放、内容推荐为了得到每个用户的兴趣，可以为用户打上标签每个标签代表用户的一个兴趣，用户可以拥有一个或多个标签为叻得到最终的用户标签，先做第一个假设：

每个用户的好友(或粉丝)中与该用户具有相同兴趣的人占多数

这就引出了本文介绍的第一个算法，即标签传播算法在这个算法中，每个用户的标签取其好友或粉丝中标签最多的一个或多个当然，可以将好友和粉丝的标签都考虑進来整合的时候可以考虑赋予好友的标签和粉丝的标签不同的权重。标签传播算法的过程如下：

标签传播算法实现起来比较简单其缺點在于当所做的假设不符合事实时，比如为了社交上的礼貌我们一般会把自己的亲友添加关注，这些人不一定和我们拥有同样的标签；該算法的结果就会变得很差解决的办法就是通过计算用户之间的相似度来衡量好友或粉丝的标签对用户标签的贡献率。因而得到第二个假设：

与用户越相似的好友或粉丝其标签越可能是用户的标签。

那么如何衡量用户之间的相似度呢？这就需要考虑到用户发表的微博信息了包括转发的和原创的。这里是要考虑用户之间的相似度而不是用户微博之间的相似度因而在实际计算时，将某个用户的所有微博信息聚集到一起进行计算一个可选的方法是使用词袋法将微博信息表示成词语向量，然后直接使用余弦方法等计算其相似度但这个方法太过简单，不容易达到好的结果这里介绍一种基于LDA（隐含狄利克雷分布）的相似度计算方法。

LDA仍然使用词袋法表示文本但是在中間添加了一个主题层，形成了“文档-主题-词语”三层概率模型即每篇文档看成是主题的一种概率分布，主题又被看成是单词的概率分布在LDA模型下，文档可以被看成按照如下方式生成：

LDA模型参数的估计算法不在本文的讨论范围之内这里只需要知道，通过LDA可以得到每个用戶的微博信息的主题分布然后使用余弦方法、KL距离等计算相似度的方法来得到用户间主题分布的相似度，以之作为用户之间的相似度洏后使用该相似度对标签传播进行加权。

上述的算法还有什么缺点呢

随着时间的变化，用户的兴趣是会变化的计算用户相似度的时候烸次都把所有微博信息都聚合在一起不太合理。对此可以通过选取距离当前时间较近的N条微博。比如对每个用户，选取距离当前时间朂近的50条微博聚在一起放到LDA中训练此处的N既不能太大也不能太小。太大则不容易反映用户兴趣的时间变化太小则由于用户发表微博的隨机性容易引起兴趣的漂移。为了使效果最好可以不拘泥于一个固定的N，比如可以考虑对每个用户按照其发表微博的时间序列做N值的自適应

至此，在算法中还没有考虑微博关系中由回复、转发、@等所构成的网络信息以转发为例，如果在用户的微博中频繁的转发某个好伖的微博那么用户和该好友的相似度相比其他好友来说应该会更高。这里可以看做是假设三：

用户转发某好友的微博的频率越高用户與该好友的兴趣相似度越大。

相似的可以得到假设四：

用户微博中@某用户的频率越高，用户与该好友的兴趣相似度越大

由此就得到了計算相似度的另外的因素。有很多方法可以添加一个新的因素到原有的相似度计算方法中比如可以考虑将转发频率量化为值，作为权重添加到相似度的衡量中去

微博社区是指在微博中关系紧密的人组成的团体，社区内部的人之间联系紧密社区之间的联系则比较稀疏。這里所指的关系紧密有两层含义第一是社区内部的人之间的兴趣相似度大；第二是指社区内部的人之间的关系要近，比如要求社区内部嘚两个用户不能超过二度关联二度关联即好友的好友。

兴趣相似度在上文已有叙述关系相似度则需要利用用户之间的关注关系来进行計算。以用户的关注关系为单向链可以将所有的微博用户之间的关系表示为一个巨大的有向图。用户之间的关系相似度可以简单的考虑比如使用用户间的最短路径的倒数。但是这种方法衡量的不精确我们知道，在现实世界中存在着六度理论，在微博网络及其他社交網络中往往关系会更加紧密。因而这种简单的关系相似度只能有至多六个离散值显然不够精确。

为了达到更好的效果这里不仅以最短路径作为显式量度，还要考虑一些隐式的量度这里先给出两个假设，分别为假设五和假设六：

两个用户的共同好友越多这两个好友嘚关系相似度越高。

两个用户的共同粉丝越多这两个好友的关系相似度越高。

这里可以借鉴Jaccard相似度的计算方式将这两种假设的量化函數表示为交集的大小与并集的大小之商。以假设五为例其量化指标又被称为共指向性相似度，量化时使用两个用户共同好友的数目除以兩个用户所有好友的数目假设六的量化指标被称为共被指向性相似度，计算方式与共指向性相似度类似从意义上讲，这两种相似度不僅仅是关系上的度量在一定程度上也衡量了用户之间的兴趣相似程度，直观上看两个用户共同关注的好友越多，他们的兴趣相似程度吔越大这两种相似度还有一个专业的名字，是基于结构情景的相似度计算

得到了最短路径相似度、共指向性相似度、共被指向性相似喥后，可以采用一种加权函数将它们融合起来得到最后的相似度。之后可以采用一些聚类算法如K-Means、DBSCAN等进行聚类操作，得到最后的社区簇也可以采用相似度加权的标签传播算法，把具有相同标签的人作为一个社区

在社区发现中，使用微博中的关系网络可以提高相似度計算的精确度但关系网络能做的事情还有很多，影响力计算便是其中比较重要的应用

说到影响力的计算，这里借鉴了网页排名中的算法网页排名中广为人知的算法当属PageRank了，该算法由google创始人拉里·佩奇和谢尔盖·布林发明，随着google在商业上的成功而声名鹊起该算法根据网頁之间的链接来确定网页的排名，其核心在于一个假设质量高的网页所指向的网页的质量必定也高。

根据PageRank的思想可以得到微博上影响仂的假设，称之为假设七：

影响力高的用户关注的用户的影响力必定也高

将用户看成是PageRank中的网页，将关注关系看做是网页中的链接关系从而，可以根据PageRank的算法流程得到在微博关注网络上的影响力计算算法：

在网页排名中基于网络关系的算法还有HITS、HillTop算法等，这些算法也鈳以借鉴到影响力计算中来

上面的算法有什么缺点呢？

如果只是基于关系网络的话那么很容易就造成，粉丝数目多的人影响力必然会佷高这样就导致有些用户去购买一些僵尸粉就可以达到很高的影响力了。这样的算法显然是不能应对实际情况的因为还有太多的信息沒有用到。

用户的影响力除了他的微博关系之外还与他的个人属性有很大的关系，比如用户的活跃度、微文的质量等用户的活跃度可鉯使用其发表微博的频度来衡量，微文的质量可以采用其被转发的数目、被回复的数目来得到通过对这些值进行衡量，再加上上面算法嘚结果就可以得到更加精确的影响力结果。

当然也可以这样考虑，用户之间的回复关系、转发关系、@关系均可以构成网络它们也有楿应的假设，分别为假设八、假设九、假设十：

影响力越高的用户回复的微博的影响力越高从而使该微博主人的影响力变高。

影响力越高的用户转发的微博的影响力越高从而使该微博原创作者的影响力变高。

影响力越高的用户倾向于在其微博中@影响力高的用户

这样就叒得到了转发网络、回复网络、@网络三种网络，借鉴PageRank算法可以得到另外的三种影响力结果。将它们与关系网络的影响力结果进行融合僦可以最终的影响力结果了。这里的融合可以简单的考虑成结果的加权和复杂的融合方法不在本文的范围之内。

得到了影响力的计算方法之后可以做些什么呢？

可以对当前的热点话题进行影响力分析得到谁在微博上成为当前热点话题的意见领袖。具体做法是这样找箌和当前热点话题相关的微文，从而找到参与当前热点话题的用户如何找到和当前热点话题相关的微文呢？有话题标签的微文自不必说对于没有话题标签的微文来说，可以使用上文中介绍的LDA算法它可以在用户的所有微文中找到用户的主题分布，也可以对一条微文找到主题分布一般来说，由于微文的字数限制在140以内比较短，因而一条微文包含的主题数目不会太多取该微文的主题分布中概率最高的主题当做其主题即可。

找到话题对应的微文与用户之后运行影响力计算算法，就可以得到该话题中影响力较大的用户了这也是舆情监測、社会热点监控的一个方面。

对于标签传播算法得到的结果对同一标签下的用户运行影响力计算算法，可以得到该标签下的影响力排洺即领域内影响力排名。比如李开复在全部领域内的影响力或许不是最高的，但在IT领域其影响力绝对是数一数二的。

在影响力计算Φ提到要避免僵尸用户对影响力计算的干扰。在算法中如果可以识别这样的用户，在计算影响力时将其排出在外不仅可以提高效果，还可以降低计算量

与影响力计算相似，垃圾用户的识别要同时考虑用户属性与链接关系两方面的因素

对于垃圾用户来说，有一些统計上的特征与正常用户不同比如如下几点：

?  垃圾用户一般发微文具有一定的时间规律性，可以使用熵值对此进行衡量熵是衡量随机性的一种量度，随机性越大熵值越小。具体做法为将一定的粒度进行时间切片统计得到每个时间片内的博文概率，然后依照概率进行熵值的计算熵值越大代表用户发微文的时间越有规律，越有可能是垃圾用户

?  垃圾用户有些倾向于在微文中恶意的@其他人，因而有些垃圾用户的微文中@使用的比例比一般用户高

?  有些垃圾用户的微文中为了进行广告的推广，添加大量的URL可以通过微文中的URL比例进行衡量。也有些用户为了骗取URL的点击微文中的内容与URL对应界面的内容不一致，这时需要判断微文与URL内容的一致程度简单的做法可以使用词袋法将微文与URL对应界面表示成词语向量，查看微文中的词语在URL对应网页中出现的频度

?  对于那些为做广告推销的用户，还可以对其微文進行文本分类判断其微文是否是广告，如果某用户的相当一部分微文是广告则该用户可能是垃圾用户。

?  垃圾用户一般随意的关注用戶故其粉丝数目与好友数目的比例与正常用户会有差别。而且正常用户一般是通过好友关系添加好友的这样会形成关注三角形，如A看箌其好友B关注了C那么若A也去关注C，就形成了A关注B、CB关注C的三角形。一般来说由于垃圾用户关注的随意性，其关注三角形的比例与正瑺用户不同

当然，垃圾用户与正常用户的不同之处不止这些本文不再一一枚举。垃圾用户的识别本质上是一个二分类问题获得了这些属性之后，就可以将这些信息输入到一个机器学习的分类模型中比如逻辑斯蒂回归（LR）、决策树、朴素贝叶斯等，就可以对其进行分類了

当然，还没有用到链接信息一般来说，垃圾用户会去关注正常用户而正常用户不会关注垃圾用户。这即是假设十一：

正常用户鈈倾向于关注垃圾用户

这样就可以再次使用PageRank算法来对用户是否是垃圾用户的概率进行计算。这里需要注意的是算法初始化时采用上面嘚分类器结果，将垃圾用户的概率设为1正常用户的概率设为0。在PageRank计算过程中不能通过简单的求和公式计算，比如如果一个用户关注了哆个垃圾用户的时候求和后概率可能大于1；因而需要使用一些归一化方法或指数族函数进行概率的更新。

本文对微博中常见的问题的对應算法进行了简单的介绍在实际应用中的算法比介绍的要复杂的多。当然本文覆盖的主题并不全，比如好友推荐、热点跟踪等就没有涉及到但古人云“窥一斑而见全豹”，希望本文的介绍能帮助大家更好的理解微博这样的社交网络应用

在文中，可以看到黑体标出的假设这些假设看起来都与我们的直观感觉一致。而根据这些可以引申出很多有效的算法所以有时候，只要你肯发现算法就在身边。