Rule-Guided Compositional Representation Learning on Knowledge Graphs

1.表示學習知識圖譜（KG）是將KG的實體和關系嵌入到低維連續向量空間中。

2.可以使用Horn規則在語義級別上組合路徑和關聯關系，以提高學習路徑上KG嵌入的精度，并增強表示學習的可解釋性。

3.DPTransE共同構建了KG的潛在特征和圖形特征之間的交互，以提供精確而有區別的嵌入。

4.路徑增強模型：由于多跳路徑可以提供KG中看似未連接的實體之間的關系，因此KG中存在的路徑已受到更多關注，可以與KG嵌入相結合。

5.論文提出了一種新穎的基于規則和基于路徑的聯合嵌入（RPJE）方案，該方案利用了邏輯規則的可解釋性和準確性， KG嵌入的一般化以及路徑的補充語義結構。特別是，首先從KG中提取以Horn子句形式存在的不同長度（規則主體中的關系數）的邏輯規則，并精心編碼以表示學習。然后，使用長度為2的規則來精確地組成路徑，而明確使用長度為1的規則來創建關系之間的語義關聯并約束關系嵌入。而且，在優化中還考慮了每個規則的置信度，以保證將規則應用于表示學習的可用性。

1.Logic Rules Extraction from KG：從KG中挖掘規則及其置信度，表示為μ∈[0,1]。 具有較高置信度的規則具有較高的保持可能性。將有效規則的最大長度限制為2。

R1：長度為1的規則集，關聯規則主體和規則頭中的兩個關系。

R2：長度為2的規則集，可用于組成路徑。

一些規則R1和規則R2的示例：

2.Rules Employment for Compositional Representation Learning：首先通過PTransE在KG上執行路徑提取過程，其中每個路徑p及其可靠性都通過路徑約束資源分配機制獲得，并表示為R（p | h，t）在實體對（h，t）之間。通過選擇實體對（h，t）之間的路徑（其可靠性超過0.01）來生成每個路徑集P（h，t）。特別是，必須由規則R2中每個規則主體的原子形成一個順序路徑以構成路徑。對每個規則進行編碼，以形成其規則主體的定向路徑。

同時需要考慮到可以同時在路徑中匹配多個規則的情況，應選擇置信度最高的規則來構成路徑。為了表示學習，需要將（a，r2，b）?（b，r1，a）形式的規則編碼為（a，r2，b）r（a，r1-1 ，b）。

? 3.Compositional Representation Modeling：定義了三個能量函數分別與直接三元組以及典型的基于翻譯的方法，使用規則R2和使用規則R1的關系對：

E2（p，r）表示評估路徑p與關系r之間相似性的能量函數。C（p）表示路徑p的合成結果，它是根據2（Rules Employment for Compositional Representation Learning）中說明的路徑合成過程獲得的。B（p）= {μ1，...，μn}表示與構成路徑p的過程中使用的規則R2中的所有規則相對應的置信度級別集合。E3（r，re）是能量函數，指示關系r和另一個關系re的相似性，并且如果re是與規則R1關聯的關系r所隱含的關系，則re應當被賦予更少的分數。

? 4. Objective Formalization：引入了成對排名損失函數來形式化用于訓練的RPJE的優化目標：

D（r）定義為根據規則R1從r推導出的所有關系集，而re是D（r）中的任何關系。

三個基于邊際的損失函數。 γ1，γ2，γ3是分別表示方程式5、6、7中每個損失函數的三個正超參數。三元組的權重固定為1，而α1，α2是兩個超參數，分別加權路徑的影響和關聯對的重合度，以r表示約束。所有規則的置信度都被認為是優化中的懲罰系數。

T代表在KG中觀察到的所有正三元組的集合。T-包含通過隨機替換T中的實體和關系并刪除T中已存在的三元組而重構的負三元組。

為了解決優化問題，使用小批量隨機梯度下降（SGD）。并考慮訓練效率，將路徑限制為不超過3個步驟。

總結

以上是生活随笔為你收集整理的Rule-Guided Compositional Representation Learning on Knowledge Graphs-学习笔记的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。