論文鏈接：https://arxiv.org/abs/1705.05742

?

對于事件數(shù)據(jù)，需要動態(tài)更新的知識圖譜來保存知識圖譜中關(guān)系的時許信息。本文提出了 Know-Evolve 這種基于神經(jīng)網(wǎng)絡(luò)的動態(tài)知識圖譜來學(xué)習(xí)實體在不同時刻的表示。在動態(tài)知識圖譜中，事件由四元組表示，相比于普通的三元組，增加了時間信息，因此在動態(tài)知識圖譜中，實體之間的可能通過多個相同的關(guān)系連接，但是這些關(guān)系會關(guān)聯(lián)到不同的時序信息。Know-Evolve 中，使用時間點過程（temporal point process）來描述時間點的影響。

在時間點過程中，某一時刻發(fā)生某事件的概率可以表示為

其中

具體而言，Know-Evolve 中使用了Rayleigh過程來表示 \lambda(t)，并使用一個神經(jīng)網(wǎng)絡(luò)來擬合 Rayleigh 過程的參數(shù)，對于發(fā)生在時刻 t 的四元組，有

其中

上式中，V 表示實體對應(yīng)的向量表示，R 表示關(guān)系對應(yīng)的矩陣，t-1 表示實體在上次被更新后的狀態(tài), \bar{t} 表示頭實體或尾實體中最后被更改的時間。

此外，每次將新的四元組加入到動態(tài)知識庫后，動態(tài)知識庫中與該四元組相關(guān)的實體也會相應(yīng)地進(jìn)行更新，更新地過程用一個 RNN 來表示

對于頭實體，有

對于尾實體，有

模型的訓(xùn)練通過最大化訓(xùn)練數(shù)據(jù)中四元組發(fā)生概率進(jìn)行，對應(yīng)的損失函數(shù)為對數(shù)損失函數(shù)

在損失函數(shù)中，后一項需要對頭實體，關(guān)系，尾實體進(jìn)行遍歷，這個計算量是很大的，本文中使用了采樣的方法來近似計算得到這部分的值。

實驗使用了GDELT和ICEWS這兩個時序知識庫，相比于其他的方法，本文的結(jié)果均有限制的提升。

?

論文筆記整理：王旦龍，浙江大學(xué)碩士，研究方向為自然語言處理。

---

OpenKG.CN

中文開放知識圖譜（簡稱OpenKG.CN）旨在促進(jìn)中文知識圖譜數(shù)據(jù)的開放與互聯(lián)，促進(jìn)知識圖譜和語義技術(shù)的普及和廣泛應(yīng)用。

點擊閱讀原文，進(jìn)入 OpenKG 博客。

總結(jié)

以上是生活随笔為你收集整理的论文浅尝 | Know-Evolve: Deep Temporal Reasoning for Dynamic KG的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。