Embedding技術概覽：

對其它Embedding技術不熟悉，可以看我的上一篇文章：
深度學習推薦系統中各類流行的Embedding方法（上）

Graph Embedding簡介

Word2Vec和其衍生出的Item2Vec類模型是Embedding技術的基礎性方法，二者都是建立在“序列”樣本（比如句子、用戶行為序列）的基礎上的。在互聯網場景下，數據對象之間更多呈現的是圖結構，所以Item2Vec在處理大量的網絡化數據時往往顯得捉襟見肘，在這樣的背景下，Graph Embedding成了新的研究方向，并逐漸在深度學習推薦系統領域流行起來。

Graph Embedding也是一種特征表示學習方式，借鑒了Word2Vec的思路。在Graph中隨機游走生成頂點序列，構成訓練集，然后采用Skip-gram算法，訓練出低維稠密向量來表示頂點。之后再用學習出的向量解決下游問題，比如分類，或者連接預測問題等。可以看做是兩階段的學習任務，第一階段先做無監督訓練生成表示向量，第二階段再做有監督學習，解決下游問題。

總之，Graph Embedding是一種對圖結構中的節點進行Embedding編碼的方法。最終生成的節點Embedding向量一般包含圖的結構信息及附近節點的局部相似性信息。不同Graph Embedding方法的原理不盡相同，對于圖信息的保留方式也有所區別，下面就介紹幾種主流的Graph Embedding方法和它們之間的區別與聯系。

DeepWalk-Graph

早期，影響力較大的Graph Embedding方法是于2014年提出的DeepWalk，它的主要思想是在由物品組成的圖結構上進行隨機游走，產生大量物品序列，然后將這些物品序列作為訓練樣本輸入Word2Vec進行訓練，得到物品的Embedding。因此，DeepWalk可以被看作連接序列Embedding和Graph Embedding的過渡方法。

論文《Billion-scale Commodity Embedding for E-commerce Recommendation in Alibaba》用上圖所示的方法展現了DeepWalk的算法流程。DeepWalk算法的具體步驟如下：

• 圖（a）是原始的用戶行為序列。

• 圖（b）基于這些用戶行為序列構建了物品關系圖。可以看出，物品A和B之間的邊產生的原因是用戶U1先后購買了物品A和物品B。如果后續產生了多條相同的有向邊，則有向邊的權重被加強。在將所有用戶行為序列都轉換成物品關系圖中的邊之后，全局的物品關系圖就建立起來了。

• 圖（c）采用隨機游走的方式隨機選擇起始點，重新產生物品序列。

• 將這些物品序列輸入圖（d）所示的Word2Vec模型中，生成最終的物品Embedding向量。

在上述DeepWalk的算法流程中，唯一需要形式化定義的是隨機游走的跳轉概率，也就是到達結點后，下一步遍歷的鄰接點的概率。如果物品關系圖是有向有權圖，那么從節點跳轉到節點的概率定義如下式所示。

其中是物品關系圖中所有邊的集合，是節點所有的出邊集合，是節點到節點邊的權重，即DeepWalk的跳轉概率就是跳轉邊的權重占所有相關出邊權重之和的比例。

如果物品關系圖是無向無權圖，那么跳轉概率將是上式的一個特例，即權重將為常數1，且應是節點所有“邊”的集合，而不是所有“出邊”的集合。

注意： 在DeepWalk論文中，作者只提出DeepWalk用于無向無權圖。DeepWalk用于有向有權圖的內容是阿里巴巴論文《Billion-scale Commodity Embedding for E-commerce Recommendation in Alibaba》中提出的Base Graph Embedding（BGE）模型，其實該模型就是對DeepWalk模型的實踐，本文后邊部分會講解該模型。

DeepWalk相關論文：

【1】Perozzi B, Alrfou R, Skiena S, et al. DeepWalk: online learning of social representations[C]. knowledge discovery and data mining, 2014: 701-710.

【2】Wang J, Huang P, Zhao H, et al. Billion-scale Commodity Embedding for E-commerce Recommendation in Alibaba[C]. knowledge discovery and data mining, 2018: 839-848.

LINE-DeepWalk的改進

DeepWalk使用DFS（Deep First Search，深度優先搜索）隨機游走在圖中進行節點采樣，使用Word2Vec在采樣的序列上學習圖中節點的向量表示。LINE（Large-scale Information Network Embedding）也是一種基于鄰域相似假設的方法，只不過與DeepWalk使用DFS構造鄰域不同的是，LINE可以看作是一種使用BFS（Breath First Search，廣度優先搜索）構造鄰域的算法。

在Graph Embedding各個方法中，一個主要區別是對圖中頂點之間的相似度的定義不同，所以先看一下LINE對于相似度的定義。

LINE定義圖中節點之間的相似度

現實世界的網絡中，相連接的節點之間存在一定的聯系，通常表現為比較相似或者在向量空間中距離接近。對于帶權網絡來說，節點之間的權越大，相似度會越高或者距離越接近，這種關系稱為一階近鄰。一階近鄰關系用于描述圖中相鄰頂點之間的局部相似度， 形式化描述為若頂點、之間存在直連邊，則邊權即為兩個頂點的相似度，若不存在直連邊，則一階相似度為0。如下圖所示，6和7之間存在直連邊，且邊權較大（表現為圖中頂點之間連線較粗），則認為兩者相似且一階相似度較高，而5和6之間不存在直連邊，則兩者間一階相似度為0。

但是，網絡中的邊往往比較稀疏，僅僅依靠一階近鄰關系，難以描述整個網絡的結構。論文中定義了另外一種關系叫做二階近鄰。例如下圖中的網絡，節點5和節點1,2,3,4相連，節點6也和節點1,2,3,4相連，雖然節點5和6之間沒有直接聯系，但是節點5和6之間很可能存在某種相似性。舉個例子，在社交網絡中，如果兩個人的朋友圈重疊度很高，或許兩個人之間具有相同的興趣并有可能成為朋友；在NLP中，如果不同的詞經常出現在同一個語境中，那么兩個詞很可能意思相近。LINE通過捕捉網絡中的一階近鄰關系和二階近鄰關系，更加完整地描述網絡。并且LINE適用于有向圖、無向圖、有權圖、無權圖。

LINE算法模型

（1）一階近鄰關系模型

一階近鄰關系模型中定義了兩個概率，一個是聯合概率，如下公式所示：

其中， 是圖中節點的向量表示，上式表示節點和之間的相似程度，這是一個sigmoid函數。

另外一個是經驗概率，如下公式所示：

其中，是節點和之間的權重。優化目標為最小化下式：

其中，是兩個分布的距離，目標是期望兩個概率分布接近，利用KL散度來計算相似性，丟掉常數項之后，得到下面公式：

一階近鄰關系模型的優化目標就是最小化。可以看到，上面這些公式無法表達方向概念，因此一階近鄰關系模型只能描述無向圖。

（2）二階近鄰關系模型

二階近鄰關系描述的是節點與鄰域的關系，每個節點有兩個向量，一個是該頂點本身的表示向量，一個是該頂點作為其他頂點的鄰居時的表示向量，因此論文中對每個節點定義了兩個向量，表示節點本身，?是節點作為鄰居的向量表示。針對每一個從節點到的有向邊，定義一個條件概率，如下式：

其中，是圖中所有的節點數量，這其實是一個函數。同樣，還有一個經驗概率，如下式：

其中，是邊的邊權，是從頂點出發指向鄰居節點的所有邊權之和，是從節點出發指向鄰居的所有邊集合。同樣需要最小化條件概率和經驗概率之間的距離，優化目標為：

其中，為控制節點重要性的因子，可以通過頂點的度數或者PageRank等方法估計得到。假設度比較高的節點權重較高，令，采用KL散度來計算距離，略去常數項后，得到公式：

直接優化上式計算復雜度很高，每次迭代需要對所有的節點向量做優化，論文中使用Word2Vec中的負采樣方法，得到二階近鄰的優化目標，如下公式所示。從計算的過程可以看到，二階相似度模型可以描述有向圖。(滑動查看完整公式)

對比一階近鄰模型和二階近鄰模型的優化目標，差別就在于，二階近鄰模型對每個節點多引入了一個向量表示。實際使用的時候，對一階近鄰模型和二階近鄰模型分別訓練，然后將兩個向量拼接起來作為節點的向量表示。

此外有一點需要說明，在Graph Embedding方法中，例如DeepWalk、Node2Vec、EGES，都是采用隨機游走的方式來生成序列再做訓練，而LINE直接用邊來構造樣本，這也是他們的一點區別。

LINE論文：

【1】Tang J, Qu M, Wang M, et al. Line: Large-scale information network embedding[C]//Proceedings of the 24th international conference on world wide web. 2015: 1067-1077.

node2vec

2016年，斯坦福大學的研究人員在DeepWalk的基礎上更進一步，提出了node2vec模型，它通過調整隨機游走權重的方法使Graph Embedding的結果更傾向于體現網絡的同質性（homophily）或結構性（structural equivalence）。

node2vec的同質性和結構性

具體的講，網絡的“同質性”指的是距離相近節點的Embedding應盡量近似，如下圖所示，節點與其相連的節點的Embedding表達應該是接近的，這就是網絡的“同質性”的體現。“結構性”指的是結構上相似的節點Embedding應盡量近似，下圖中節點和節點都是各自局域網絡的中心節點，結構上相似，其Embedding的表達也應該近似，這是“結構性”的體現。

為了使Graph Embedding的結果能夠表達網絡的“結構性”，在隨機游走過程中，需要讓游走的過程更傾向于BFS，因為BFS會更多地在當前節點的鄰域中游走遍歷，相當于對當前節點周邊的網絡結構進行一次“微觀掃描”。當前節點是“局部中心節點”，還是“邊緣節點”，或是“連接性節點”，其生成的序列包含的節點數量和順序必然是不同的，從而讓最終的Embedding抓取到更多結構性信息。

另外，為了表達“同質性”，需要讓隨機游走的過程更傾向于DFS，因為DFS更有可能通過多次跳轉，游走到遠方的節點上，但無論怎樣，DFS的游走更大概率會在一個大的集團內部進行，這就使得一個集團或者社區內部的節點的Embedding更為相似，從而更多地表達網絡的“同質性”。

但是在不同的任務中需要關注的重點不同，可能有些任務需要關注網絡的homophily，而有些任務比較關注網絡的structural equivalence，可能還有些任務兩者兼而有之。在DeepWalk中，使用DFS隨機游走在圖中進行節點采樣，使用Word2Vec在采樣的序列學習圖中節點的向量表示，無法靈活地捕捉這兩種關系。

實際上，對于這兩種關系的偏好，可以通過不同的序列采樣方式來實現。有兩種極端的方式，一種是BFS，如上圖中紅色箭頭所示，從u出發做隨機游走，但是每次都只采樣頂點u的直接鄰域，這樣生成的序列通過無監督訓練之后，特征向量表現出來的是structural equivalence特性。另外一種是DFS，如上圖中藍色箭頭所示，從u出發越走越遠，學習得到的特征向量反應的是圖中的homophily關系。

node2vec算法

那么在node2vec算法中，是怎么控制BFS和DFS的傾向性呢？主要是通過節點間的跳轉概率。下圖所示為node2vec算法從節點跳轉到節點，再從節點跳轉到周圍各點的跳轉概率。假設從某頂點出發開始隨機游走，第步走到當前頂點，要探索第步的頂點，如下圖所示。下面的公式表示從頂點到的跳轉概率，是圖中邊的集合，表示頂點和之間的邊，表示從節點跳轉到下一個節點的概率，是歸一化常數。

帶偏隨機游走的最簡單方法是基于下一個節點邊權重進行采樣，即，是權重之和。對于無權重的網絡，。最簡單的方式，就是按照這個轉移概率進行隨機游走，但是無法控制BFS和DFS的傾向性。

node2vec用兩個參數和定義了一個二階隨機游走，以控制隨機游走的策略。假設當前隨機游走經過邊到達頂點，現在要決定從節點跳轉到下一個節點，需要依據邊上的跳轉概率。設，是頂點和之間的邊權；是修正系數，定義如下：

上式中表示下一步頂點和頂點之間的最短距離，只有3種情況，如果又回到頂點，那么；如果和直接相鄰，那么；其他情況。參數和共同控制著隨機游走的傾向性。參數被稱為返回參數（return parameter），控制著重新返回頂點的概率。如果，那么下一步較小概率重新返回頂點；如果，那么下一步會更傾向于回到頂點，node2vec就更注重表達網絡的結構性。

參數被稱為進出參數（in-out parameter），如果，那么下一步傾向于回到或者的臨近頂點，這接近于BFS的探索方式；如果，那么下一步傾向于走到離更遠的頂點，接近于DFS尋路方式，node2vec就更加注重表達網絡的同質性。

因此，可以通過設置和來控制游走網絡的方式。所謂的二階隨機游走，意思是說下一步去哪，不僅跟當前頂點的轉移概率有關，還跟上一步頂點相關。在論文中試驗部分，作者對和的設置一般是2的指數，比如。

node2vec這種靈活表達同質性和結構性的特點也得到了實驗的證實，通過調整參數和產生了不同的Embedding結果。下圖中的上半部分圖片就是node2vec更注重同質性的體現，可以看到距離相近的節點顏色更為接近，下圖中下半部分圖片則更注重體現結構性，其中結構特點相近的節點的顏色更為接近。

node2vec在推薦系統中的思考

node2vec所體現的網絡的同質性和結構性在推薦系統中可以被很直觀的解釋。同質性相同的物品很可能是同品類、同屬性，或者經常被一同購買的商品，而結構性相同的物品則是各品類的爆款、各品類的最佳湊單商品等擁有類似趨勢或者結構性屬性的商品。毫無疑問，二者在推薦系統中都是非常重要的特征表達。由于node2vec的這種靈活性，以及發掘不同圖特征的能力，甚至可以把不同node2vec生成的偏向“結構性”的Embedding結果和偏向“同質性”的Embedding結果共同輸入后續的深度學習網絡，以保留物品的不同圖特征信息。

node2vec論文：

【1】Grover A, Leskovec J. node2vec: Scalable feature learning for networks[C]//Proceedings of the 22nd ACM SIGKDD international conference on Knowledge discovery and data mining. 2016: 855-864.

EGES

2018 年，阿里巴巴公布了其在淘寶應用的Embedding方法 EGES（Enhanced Graph Embedding with Side Information）算法，其基本思想是Embedding過程中引入帶權重的補充信息（Side Information），從而解決冷啟動的問題。

淘寶平臺推薦的三個問題：

• 可擴展性(scalability)：已有的推薦算法(CF、Base-Content、DL)可以在小數據集上有不錯效果，但是對于10億用戶和20億商品這樣海量的數據集上效果差。

• 稀疏性(sparsity)：用戶僅與小部分商品交互，難以訓練準確的推薦模型。

• 冷啟動(cold start)：物品上新頻繁，然而這些商品并沒有用戶行為，預測用戶對這些商品的偏好是十分具有挑戰性的。

現在業界針對海量數據的推薦問題通用框架是分成兩個階段，即matching 和 ranking。在matching階段，我們會生成一個候選集，它的items會與用戶接觸過的每個item具有相似性；接著在ranking階段，我們會訓練一個深度神經網絡模型，它會為每個用戶根據他的偏好對候選items進行排序。論文關注的問題在推薦系統的matching階段，也就是從商品池中召回候選商品的階段，核心的任務是計算所有item之間的相似度。

為了達到這個目的，論文提出根據用戶歷史行為構建一個item graph，然后使用DeepWalk學習每個item的embedding，即Base Graph Embedding（BGE）。BGE優于CF，因為基于CF的方法只考慮了在用戶行為歷史上的items的共現率，但是對于少量或者沒有交互行為的item，仍然難以得到準確的embedding。為了減輕該問題，論文提出使用side information來增強embedding過程，提出了Graph Embedding with Side information (GES)。例如，屬于相似類別或品牌的item的embedding應該相近。在這種方式下，即使item只有少量交互或沒有交互，也可以得到準確的item embedding。在淘寶場景下，side information包括：category、brand、price等。不同的side information對于最終表示的貢獻應該不同，于是論文進一步提出一種加權機制用于學習Embedding with Side Information，稱為Enhanced Graph Embedding with Side information (EGES)。

基于圖的Embedding（BGE）

該方案是 DeepWalk 算法的實踐，具體流程如下：

• 首先，我們擁有上億用戶的行為數據，不同的用戶，在每個 Session 中，訪問了一系列商品，例如用戶 u2 兩次訪問淘寶，第一次查看了兩個商品 B-E，第二次產看了三個商品 D-E-F。

• 然后，通過用戶的行為數據，我們可以建立一個商品圖（Item Graph），可以看出，物品A，B之間的邊產生的原因就是因為用戶U1先后購買了物品A和物品B，所以產生了一條由A到B的有向邊。如果后續產生了多條相同的有向邊，則有向邊的權重被加強。在將所有用戶行為序列都轉換成物品相關圖中的邊之后，全局的物品相關圖就建立起來了。

• 接著，通過 Random Walk 對圖進行采樣，重新獲得商品序列。

• 最后，使用 Skip-gram 模型進行 Embedding 。

Base Graph Embedding 與 DeepWalk 不同的是：通過 user 的行為序列構建網絡結構，并將網絡定義為有向有權圖。 其中：根據行為的時間間隔，將一個 user 的行為序列分割為多個session。session分割可以參考Airbnb這篇論文《Real-time Personalization using Embeddings for Search Ranking at Airbnb》。

使用Side Information的GE（GES）

通過使用BGE，我們能夠將items映射到高維向量空間，并考慮了CF沒有考慮的用戶序列關系。但是我們依然沒有解決冷啟動的問題。為了解決冷啟動問題，我們使用邊信息（ category, shop, price, etc）賦值給不同的item。因為邊信息相同的兩個item，理論而言會更接近。通過DeepWalk方案得到item的游走序列，同時得到對應的邊信息（category，brand，price）序列。然后將所有序列放到Word2Vec模型中進行訓練。針對每個 item，將得到：item_embedding，category_embedding，brand_embedding，price_embedding 等 embedding 信息。

為了與之前的item embedding區分開，在加入Side information之后，我們稱得到的embedding為商品的aggregated embeddings。商品v的aggregated embeddings為：

對上式做一個簡單的解釋：針對每個 item，將得到：item_embedding，category_embedding，brand_embedding，price_embedding 等 embedding 信息。將這些 embedding 信息求均值來表示該 item的Embedding。

需要注意的一點是，item 和 side information（例如category, brand, price等） 的 Embedding 是通過 Word2Vec 算法一起訓練得到的。 如果分開訓練，得到的item_embedding和category_embedding、brand_embedding、price_embedding不在一個向量空間中，做運算無意義。即：通過 DeepWalk 方案得到 item 的游走序列，同時得到對應的{category, brand, price}序列。然后將所有序列數據放到Word2Vec模型中進行訓練。

增強型GES（EGES）

GES中存在一個問題是，針對每個item，它把所有的side information embedding求和后做了平均，沒有考慮不同的side information 之間的權重，EGES就是讓不同類型的side information具有不同的權重，提出來一個加權平均的方法來聚集這些邊界embedding。

因為每個item對其不同邊信息的權重不一樣，所以就需要額外矩陣來表示每個item邊信息的權重，其大小為，是item的個數，是邊信息的個數，加1是還要考慮item自身Embedding的權重。為了簡單起見，我們用表示第個item、第個類型的side information的權重。表示第個item自身Embedding的權重。這樣就可以獲得加權平均的方法：

這里對權重項做了指數變換，目的是為了保證每個邊信息的貢獻都能大于0。權重矩陣通過模型訓練得到。EGES算法應用改進的Word2Vec算法（Weighted Skip-Gram）確定模型的參數。對上圖中EGES算法簡單說明如下：

• 上圖的Sparse Features代表 item 和 side information 的ID信息；

• Dense Embeddings 表示 item 和 side information 的 embedding 信息；

• 分別代表 item 和 side information 的 embedding 權重；

• Sampled Softmax Classifier中的代表采樣的負樣本（見論文中的Algorithm 2 Weighted Skip-Gram描述的第8行），代表正樣本（某個item周邊上下n個item均為正樣本，在模型中表示時不區分遠近）；

EGES并沒有過于復雜的理論創新，但給出了一個工程上的融合多種Embedding的方法，降低了某類信息缺失造成的冷啟動問題，是實用性極強的Embedding方法。

EGES論文：

【1】Wang J, Huang P, Zhao H, et al. Billion-scale Commodity Embedding for E-commerce Recommendation in Alibaba[C]. knowledge discovery and data mining, 2018: 839-848.

總結

時至今日，Graph Embedding仍然是工業界和學術界研究和實踐的熱點，除了本文介紹的DeepWalk、LINE、node2vec、EGES等主流方法，SDNE、struct2vec等方法也是重要的Graph Embedding模型，感興趣的讀者可以自己查找相關文獻進一步學習。

本文原創首發于公眾號【Microstrong】，想了解更多關于推薦系統、自然語言處理等方向的內容，歡迎掃碼關注公眾號。關注公眾號后，點擊【學習群】可以加入我們的交流群一起學習！

【Microstrong】持續產出推薦系統/NLP/機器學習/深度學習等相關技術干貨和實踐經驗。關注公眾號還可以了解Microstrong的成長之路和程序人生喲！

Microstrong近期文章：

深入理解XGBoost

Self-Attention與Transformer

深入理解GBDT回歸算法

深入理解CatBoost

深度學習推薦系統中各類流行的Embedding方法（上）

深入淺出Word2Vec原理解析

夕小瑤的賣萌屋

關注&星標小夕，帶你解鎖AI秘籍
訂閱號主頁下方「撩一下」有驚喜

參考文獻

【1】《深度學習推薦系統》王喆編著。

【2】【Graph Embedding】DeepWalk：算法原理，實現和應用 - 淺夢的文章 - 知乎 https://zhuanlan.zhihu.com/p/56380812
【3】【論文筆記】DeepWalk - 陌上疏影涼的文章 - 知乎 https://zhuanlan.zhihu.com/p/45167021
【4】【Graph Embedding】LINE：算法原理，實現和應用 - 淺夢的文章 - 知乎 https://zhuanlan.zhihu.com/p/56478167
【5】Graph Embedding：從DeepWalk到SDNE - 羽刻的文章 - 知乎 https://zhuanlan.zhihu.com/p/33732033
【6】Graph Embedding之探索LINE - 張備的文章 - 知乎 https://zhuanlan.zhihu.com/p/74746503
【7】【Graph Embedding】node2vec：算法原理，實現和應用 - 淺夢的文章 - 知乎 https://zhuanlan.zhihu.com/p/56542707
【8】node2vec在工業界的應用-《當機器學習遇上復雜網絡：解析微信朋友圈 Lookalike 算法》，地址：https://mp.weixin.qq.com/s/EV-25t2lWT2JJMLhXsz4zQ
【9】graph embedding之node2vec - 張備的文章 - 知乎 https://zhuanlan.zhihu.com/p/63631102
【10】Graph Embedding在淘寶推薦系統中的應用 - 張備的文章 - 知乎 https://zhuanlan.zhihu.com/p/70198918
【11】Graph Embedding - 阿里EGES算法 - 王多魚的文章 - 知乎 https://zhuanlan.zhihu.com/p/69069878
【12】Graph Embedding：深度學習推薦系統的"基本操作" - 顧鵬的文章 - 知乎 https://zhuanlan.zhihu.com/p/68247149
【13】論文閱讀:Billion-scale Commodity Embedding for E-commerce Recommendation in Alibaba，地址：https://blog.csdn.net/Super_Json/article/details/85537938

總結

以上是生活随笔為你收集整理的深度学习推荐系统中各类流行的Embedding方法的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。