論文筆記整理：李昊軒，南京大學(xué)碩士，研究方向為知識圖譜、自然語言處理。

---

來源：ACL2018

鏈接：https://www.aclweb.org/anthology/P18-1212

動機(jī)

理解事件之間的時間和因果關(guān)系是一項基本的自然語言理解任務(wù)。由于原因一定先于結(jié)果發(fā)生，因此時序關(guān)系與因果關(guān)系之間存在取值上的聯(lián)系。在已有工作中較少聯(lián)合關(guān)注這兩種關(guān)系。本文提出了一種基于整數(shù)線性規(guī)劃（ILP）模型的聯(lián)合推理框架，通過約束限制了結(jié)果中時序和因果的一致性。

貢獻(xiàn)點

1. 提出了基于 ILP 模型的時序與因果關(guān)系的聯(lián)合推理框架，包含了以下約束條件：（1）原因必須在時序上先于其結(jié)果；（2）時序?qū)ΨQ性約束；（3）時序傳遞性約束

2.??開發(fā)了一個用于聯(lián)合標(biāo)注數(shù)據(jù)集。本文通過在 EventCausality 數(shù)據(jù)集的基礎(chǔ)上增加標(biāo)注時序關(guān)系的方法構(gòu)建了該數(shù)據(jù)集。

時序和因果聯(lián)合推理方法

1.??時序關(guān)系部分

a)??時序關(guān)系部分的推理公式

其中， 表示第 k 個事件-事件、事件-時間表達(dá)式對的時序關(guān)系標(biāo)簽； 表示第 k 個事件-事件、事件-時間表達(dá)式對被預(yù)測為標(biāo)簽。該式表示最大化所有事件-事件、事件-時間表達(dá)式對的打分之和。

b)??對稱性與傳遞性約束

時序關(guān)系標(biāo)簽定義如下表所示：

傳遞性關(guān)系 如下表所示：

對稱性與傳遞性約束定義如下：

c)??增強(qiáng)語言學(xué)規(guī)則

本文使用了若干先驗語言學(xué)知識用于限制Y的搜索空間，可以表達(dá)為如下形式：

其中，是一組事件-事件、事件-時間表達(dá)式對，這些對可以被該語言學(xué)規(guī)則決定。

2.??包含因果關(guān)系的完整模型

其中，是 W 的搜索空間，依賴于時序關(guān)系標(biāo)簽Y，其定義如下：

其中，是因果關(guān)系標(biāo)簽集合； 是事件對 (i,j) 的因果關(guān)系標(biāo)簽。該約束將因果關(guān)系和時序關(guān)系聯(lián)系在一起。

3.??打分函數(shù)

時序關(guān)系和因果關(guān)系均使用 Softmax 打分函數(shù)，例如事件-事件對的時序關(guān)系打分如下：

對于因果關(guān)系，本文特別將詞對順序的先驗概率分布加入特征。

4.??將聯(lián)合推理轉(zhuǎn)換為ILP形式

打分函數(shù)：

時序關(guān)系對稱性和傳遞性約束：

語言學(xué)規(guī)則約束：

約束：

實驗

1.??在 TB-Dense 數(shù)據(jù)集上時序關(guān)系識別的性能對比實驗與ablation實驗

2.??在自建數(shù)據(jù)集上的時序與因果關(guān)系識別的性能

已有數(shù)據(jù)集不能滿足要求，因此本文自建數(shù)據(jù)集用于同時測試時序與因果關(guān)系識別兩個任務(wù)的性能。

總結(jié)

本文提出了一種新穎的基于ILP模型的時序與因果聯(lián)合推理框架TCR ，并且開發(fā)了一個新的時序與因果聯(lián)合標(biāo)注數(shù)據(jù)集。實驗表明，TCR能夠同時顯著改善兩個任務(wù)上的性能。

?

---

OpenKG

開放知識圖譜（簡稱 OpenKG）旨在促進(jìn)中文知識圖譜數(shù)據(jù)的開放與互聯(lián)，促進(jìn)知識圖譜和語義技術(shù)的普及和廣泛應(yīng)用。

點擊閱讀原文，進(jìn)入 OpenKG 博客。

總結(jié)

以上是生活随笔為你收集整理的论文浅尝 | 时序与因果关系联合推理的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。