一、 關系抽取綜述

二、 遠程監督關系抽取算法的濫觴

三、 多實例學習和分段最大池化

四、 句子級別的注意力機制

一、關系抽取綜述

　　信息抽取是自然語言處理中非常重要的一塊內容，包括實體抽取（命名實體識別，Named Entity Recognition）、關系抽取（Relation Extraction）和事件抽取（Event Extraction）。

　　這次介紹的關系抽取屬于自然語言理解（NLU）的范疇，也是構建和擴展知識圖譜的一種方法。

　　關系抽取理解起來也比較簡單，比如下面圖片中的第一句話:

　　He was in Tennessee.

　　首先做命名實體識別，識別出He（PER）和Tennessee（GPE）兩個實體，然后找出兩個實體之間的關系為：Physical-Located，最后可以把抽取出來的關系表示為三元組的形式：（He_PER, Physical-Located, Tennessee_GPE），或者Physical-Located（He_PER, Tennessee_GPE）。

　　可見關系抽取包含命名實體識別在內，在技術實現上更復雜。

　　關系抽取從流程上，可以分為流水線式抽取（Pipline）和聯合抽取（Joint Extraction）兩種，流水線式抽取就是把關系抽取的任務分為兩個步驟：首先做實體識別，再抽取出兩個實體的關系；而聯合抽取的方式就是一步到位，同時做好了實體和關系的抽取。流水線式抽取會導致誤差在各流程中傳遞和累加，而聯合抽取的方式則實現難度更大。

　　關系抽取從實現的算法來看，主要分為四種：

　　1、手寫規則（Hand-Written Patterns）；

　　2、監督學習算法（Supervised Machine Learning）；

　　3、半監督學習算法（Semi-Supervised Learning，比如Bootstrapping和Distant Supervision）；

　　4、無監督算法。

　　本文的主人公是遠程監督算法（Distant Supervision），這是一種半監督學習算法。其他的方法大致了解一下，有助于理解，為什么相對而言，遠程監督做關系抽取是一種比較可行的方法。

　　（一）手寫規則模板的方法

　　1、例子：

　　有種關系叫做上下位關系，比如hyponym(France; European countries)。從下面兩個句子中都可以抽取出這種關系：

　　European countries, especiallyFrance, England, and Spain...

　　European countries,such asFrance, England, and Spain...

　　兩個實體之間的especially和such as可以看做這種關系的特征。觀察更多表達這種關系的句子，我們就可以構造如下的規則模板，來抽取構成上下位關系的實體，從而發現新的三元組。

　　2、優點和缺點：

　　優點是抽取的三元組查準率（Precision）高，尤其適合做特定領域的關系抽取；缺點是查全率（Recall）很低，也就是說查得準，但是查不全，而且針對每一種關系都需要手寫大量的規則，比較慘。

　　（二）監督學習的方法

　　監督學習的方法也就是給訓練語料中的實體和關系打上標簽，構造訓練集和測試集，再用傳統機器學習的算法（LR，SVM和隨機森林等）或神經網絡訓練分類器。

　　1、機器學習和深度學習方法

　　對于傳統的機器學習方法，最重要的步驟是構造特征。可以使用的特征有：

　　（1）詞特征：實體1與實體2之間的詞、前后的詞，詞向量可以用Bag-of-Words結合Bigrams等。

　　（2）實體標簽特征：實體的標簽。

　　（3）依存句法特征：分析句子的依存句法結構，構造特征。這個不懂怎么弄。

　　人工構造特征非常麻煩，而且某些特征比如依存句法分析，依賴于NLP工具庫，比如HanLP，工具帶來的誤差不可避免會影響特征的準確性。

　　用端到端的深度學習方法就沒這么費勁了。比如使用CNN或BI-LSTM作為句子編碼器，把一個句子的詞嵌入（Word Embedding）作為輸入，用CNN或LSTM做特征的抽取器，最后經過softmax層得到N種關系的概率。這樣省略了特征構造這一步，自然不會在特征構造這里引入誤差。

　　2、監督學習的優缺點

　　監督學習的優點是，如果標注好的訓練語料足夠大，那么分類器的效果是比較好的，可問題是標注的成本太大了。

　　（三）半監督

　　鑒于監督學習的成本太大，所以用半監督學習做關系抽取是一個很值得研究的方向。

　　半監督學習的算法主要有兩種：Bootstrapping和Distant Supervision。Bootstrapping不需要標注好實體和關系的句子作為訓練集，不用訓練分類器；而Distant Supervision可以看做是Bootstrapping和Supervise Learning的結合，需要訓練分類器。

　　這里介紹Bootstrapping的思想，Distant Supervision作為主人公，在后面的部分詳細介紹。

　　1、例子

　　Bootstrapping算法的輸入是擁有某種關系的少量實體對，作為種子，輸出是更多擁有這種關系的實體對。敲黑板！不是找到更多的關系，而是發現擁有某種關系的更多新實體對。

　　怎么做的呢？舉個栗子，“創始人”是一種關系，如果我們已經有了一個小型知識圖譜，里面有3個表達這種關系的實體對：（嚴定貴，你我貸），（馬云，阿里巴巴），（雷軍，小米）。

　　第一步：在一個大型的語料集中去找包含某一實體對（3個中的任意1個）的句子，全部挑出來。比如：嚴定貴于2011年創立了你我貸；嚴定貴是你我貸的創始人；在嚴定貴董事長的帶領下，嘉銀金科赴美上市成功。

　　第二步：歸納實體對的前后或中間的詞語，構造特征模板。比如：A 創立了 B；A 是 B 的創始人；A 的帶領下，B。

　　第三步：用特征模板去語料集中尋找更多的實體對，然后給所有找到的實體對打分排序，高于閾值的實體對就加入到知識圖譜中，擴展現有的實體對。

　　第四步：回到第一步，進行迭代，得到更多模板，發現更多擁有該關系的實體對。

　　細心的小伙伴會發現，不是所有包含“嚴定貴”和“你我貸”的句子都表達了“創始人”這種關系啊，比如：“在嚴定貴董事長的帶領下，嘉銀金科赴美上市成功”——這句話就不是表達“創始人”這個關系的。某個實體對之間可能有很多種關系，哪能一口咬定就是知識圖譜中已有的這種關系呢？這不是會得到錯誤的模板，然后在不斷的迭代中放大錯誤嗎？

　　沒錯，這個問題叫做語義漂移（Semantic Draft），一般有兩種解決辦法：

　　一是人工校驗，在每一輪迭代中觀察挑出來的句子，把不包含這種關系的句子剔除掉。

　　二是Bootstrapping算法本身有給新發現的模板和實體對打分，然后設定閾值，篩選出高質量的模板和實體對。具體的公式可以看《Speech and Language Processing》（第3版）第17章。

　　2、Bootstrapping的優缺點

　　Bootstrapping的缺點一是上面提到的語義漂移問題，二是查準率會不斷降低而且查全率太低，因為這是一種迭代算法，每次迭代準確率都不可避免會降低，80%---->60%---->40%---->20%...。所以最后發現的新實體對，還需要人工校驗。

　　（四）無監督

　　半監督的辦法效果已經勉強，無監督的效果就更差強人意了，這里就不介紹了。

二、遠程監督關系抽取算法的濫觴

　　第一篇要介紹的論文是《Distant supervision for relation extraction without labeled data》，斯坦福大學出品，把遠程監督的方法用于關系抽取。研究關系抽取的遠程監督算法，不得不提這篇論文。

　　（一）遠程監督的思想

　　這篇論文首先回顧了關系抽取的監督學習、無監督學習和Bootstrapping算法的優缺點，進而結合監督學習和Bootstrapping的優點，提出了用遠程監督做關系抽取的算法。

　　遠程監督算法有一個非常重要的假設：對于一個已有的知識圖譜（論文用的Freebase）中的一個三元組（由一對實體和一個關系構成），假設外部文檔庫（論文用的Wikipedia）中任何包含這對實體的句子，在一定程度上都反映了這種關系。基于這個假設，遠程監督算法可以基于一個標注好的小型知識圖譜，給外部文檔庫中的句子標注關系標簽，相當于做了樣本的自動標注，因此是一種半監督的算法。

　　具體來說，在訓練階段，用命名實體識別工具，把訓練語料庫中句子的實體識別出來。如果多個句子包含了兩個特定實體，而且這兩個實體是Freebase中的實體對（對應有一種關系），那么基于遠程監督的假設，認為這些句子都表達了這種關系。于是從這幾個句子中提取文本特征，拼接成一個向量，作為這種關系的一個樣本的特征向量，用于訓練分類器。

　　論文中把Freebase的數據進行了處理，篩選出了94萬個實體、102種關系和180萬實體對。下面是實體對數量最多的23種關系。

　　關系種類相當于分類的類別，那么有102類；每種關系對應的所有實體對就是樣本；從Wikipedia中所有包含某實體對的句子中抽取特征，拼接成這個樣本的特征向量。最后訓練LR多分類器，用One-vs-Rest，而不是softmax，也就是訓練102個LR二分類器——把某種關系視為正類，把其他所有的關系視為負類。

　　因為遠程監督算法可以使用大量無標簽的數據，Freebase中的每一對實體在文檔庫中可能出現在多個句子中。從多個句子中抽出特征進行拼接，作為某個樣本（實體對）的特征向量，有兩個好處：

　　一是單獨的某個句子可能僅僅包含了這個實體對，并沒有表達Freebase中的關系，那么綜合多個句子的信息，就可以消除噪音數據的影響。

　　二是可以從海量無標簽的數據中獲取更豐富的信息，提高分類器的準確率。

　　但是問題也來了，這個假設一聽就不靠譜！哪能說一個實體對在Freebase中，然后只要句子中出現了這個實體對，就假定關系為Freebase中的這種關系呢？一個實體對之間的關系可能有很多啊，比如馬云和阿里巴巴的關系，就有“董事長”、“工作”等關系，哪能斷定就是“創始人”的關系呢？

　　這確實是個大問題，在本篇論文中也沒有提出解決辦法。

　　（二）分類器的特征

　　論文中使用了三種特征：詞法特征（Lexical features）、句法特征（Syntactic features）和實體標簽特征（Named entity tag features）。

　　1、詞法特征

　　詞法特征描述的是實體對中間或兩端的特定詞匯相關的信息。比如有：

兩個實體中間的詞語和詞性
實體1左邊的k個詞語和詞性，k取{0,1,2}
實體2右邊的k個詞語和詞性，k取{0,1,2}

　　然后把這些特征表示成向量再拼接起來。比如用詞袋模型，把詞語和詞性都表示為向量。

　　2、句法特征

　　論文中的句法特征就是對句子進行依存句法分析（分析詞匯間的依存關系，如并列、從屬、遞進等），得到一條依存句法路徑，再把依存句法路徑中的各成分作為向量，拼接起來。

　　如下為一個句子的依存句法路徑，我不太懂，不多說。

　　3、命名實體標簽特征

　　論文中做命名實體識別用的是斯坦福的NER工具包。把兩個實體的標簽也作為特征，拼接起來。

　　總結一下，論文中使用的特征不是單個特征，而是多種特征拼接起來的。有多個句子包含某實體對，可以從每個句子中抽取出詞法特征、句法特征和實體特征，拼接起來，得到一個句子的特征向量，最后把多個句子的特征向量再拼接起來，得到某實體對（一個樣本）的特征向量。

　　不過作者為了比較詞法特征和句法特征的有效性，把特征向量分為了3種情況：只使用詞法特征，只使用句法特征，詞法特征與句法特征拼接。

　　（三）實驗細節

　　1、數據集說明

　　知識圖譜或者說標注數據為Freebase，非結構化文本庫則是Wikipedia中的文章。

　　論文中把Freebase的三元組進行了篩選，篩選出了94萬個實體、102種關系和相應的180萬實體對。用留出法進行自動模型評估時，一半的實體對用于訓練，一半的實體對用于模型評估。

　　同樣對Wikipedia中的文章進行篩選，得到了180萬篇文章，平均每篇文章包含約14.3個句子。從中選擇80萬條句子作為訓練集，40萬條作為測試集。

　　2、構造負樣本

　　由于對于每種關系，都要訓練一個LR二分類器，所以需要構造負樣本。這里的負樣本不是其他101種關系的訓練樣本，而是這樣的句子：從訓練集中的句子中抽取實體對，如果實體對不在Freebase中，那么就隨機挑選這樣的句子就作為負樣本。

　　3、訓練過程

　　LR分類器以實體對的特征向量為輸入，輸出關系名和概率值。每種關系訓練一個二分類器，一共訓練102個分類器。

　　訓練好分類器后，對測試集中的所有實體對的關系進行預測，并得到概率值。然后對所有實體對按概率值進行降序排列，從中挑選出概率最高的N個實體對（概率值大于0.5），作為發現的新實體對。

　　4、測試方法和結論

　　測試的指標采用查準率，方法采用了留出法（自動評估）和人工評估兩種方法。留出法的做法是，把Freebase中的180萬實體對的一半作為測試集（另一半用于訓練）。新發現的N個實體對中，如果有n個實體對在Freebase的測試集中，那么查準率為n/N。人工評估則采用多數投票的方法。

　　模型評估的結果表明，遠程監督是一種較好的關系抽取算法。在文本特征的比較上，詞法特征和句法特征拼接而成的特征向量，優于單獨使用其中一種特征的情況。此外，句法特征在遠程監督中比詞法特征更有效，尤其對于依存句法結構比較短而實體對之間的詞語非常多的句子。

　　（四）評價

　　這篇論文把遠程監督的思想引入了關系抽取中，充分利用未標注的非結構化文本，從詞法、句法和實體三方面構造特征，最后用留出法和人工校驗兩種方法進行模型評估，是一種非常完整規范的關系抽取范式。

　　不足之處有兩點：

　　第一個是前面所提到的問題，那就是遠程監督所基于的假設是一個非常強的假設。哪能說一個實體對在Freebase中存在一種關系，那么只要外部語料庫中的句子中出現了這個實體對，就假定關系為Freebase中的關系呢？還可能是其他關系啊？

　　Bootstrapping中也有這個問題，稱為語義漂移問題，但Bootstrapping本身通過給新發現的規則模板和實體對打分，在一定程度上緩解了這個問題，而這篇論文并沒有提到這個問題，更沒有涉及到解決辦法。我猜這是因為Freebase中的實體對和關系主要就是從Wikipedia中抽取出來的，而且關系屬于比較典型的關系。

　　這點就成了后續遠程監督關系抽取算法的一個改進方向，后面的研究人員提出了利用多實例學習和句子級別的注意力機制來解決這個問題。

　　第二個是論文中用到了三種特征，貌似一頓操作猛如虎，但實際上構造這些特征非常繁瑣，而且詞性標注和依存句法分析依賴于NLP工具庫，因此工具庫在標注和解析中所產生的誤差，自然會影響到文本特征的準確性。

　　這點也是后續研究的一個改進方向，后面的研究人員用神經網絡作為特征提取器，代替人工提取的特征，并用詞嵌入作為文本特征。

三、多實例學習和分段最大池化

　　第二篇論文是《Distant Supervision for Relation Extraction via PiecewiseConvolutional Neural Networks》，是用神經網絡結合遠程監督做關系抽取的扛鼎之作。

　　（一）論文的貢獻

　　1、用PCNNs的神經網絡結構自動學習文本特征，代替復雜的人工構造特征和特征處理流程。

　　PCNNs全名為Piecewise Convolutional Neural Networks，包含兩層含義：Piecewise max pooling layer和Convolutional Neural Networds，對應到最大池化層和卷積層。用卷積神經網絡強大的特征提取功能，能自動抽取豐富的特征，并且減少人工設計特征和NLP工具庫抽取特征帶來的誤差。省時省力又能減少誤差，何樂不為。

　　2、設計了分段最大池化層（三段，Piecewise max pooling layer）代替一般的最大池化層，提取更豐富的文本結構特征。

　　一般的最大池化層直接從多個特征中選出一個最重要的特征，實際上是對卷積層的輸出進行降維，但問題是維度降低過快，無法獲取實體對在句子中所擁有的結構信息。

　　如下圖，把一個句子按兩個實體切分為前、中、后三部分的詞語，然后將一般的最大池化層相應地劃分為三段最大池化層，從而獲取句子的結構信息。

　　3、用多實例學習（Multi-InstancesLearning）解決遠程監督做自動標注的錯誤標注問題。

　　遠程監督本質上是一種自動標注樣本的方法，但是它的假設太強了，會導致錯誤標注樣本的問題。

　　論文認為遠程監督做關系抽取類似于多實例問題（Multi-InstancesProblem）。知識圖譜中一個實體對（論文中的Bag）的關系是已知的，而外部語料庫中包含該實體對的多個句子（Instances of Bag），表達的關系是未知的（自動標注的結果未知真假），那么多實例學習的假設是：這些句子中至少有一個句子表達了已知的關系。于是從多個句子中只挑出最重要的一個句子，作為這個實體對的樣本加入到訓練中。

　　本篇論文設計了一個目標函數，在學習過程中，把句子關系標簽的不確定性考慮進去，從而緩解錯誤標注的問題。

　　總結一下，本文的亮點在于把多實例學習、卷積神經網絡和分段最大池化結合起來，用于緩解句子的錯誤標注問題和人工設計特征的誤差問題，提升關系抽取的效果。

　　（二）研究方法

　　本文把PCNNs的神經網絡結構和多實例學習結合，完成關系抽取的任務。

　　1、PCNNs網絡的處理流程

　　PCNNs網絡結構處理一個句子的流程分為四步：特征表示、卷積、分段最大池化和softmax分類。具體如下圖所示。

（1）文本特征表示

　　（1）文本特征表示

　　使用詞嵌入（Word Embeddings）和位置特征嵌入（Position Embeddings），然后把句子中每個詞的這兩種特征拼接起來。

　　詞嵌入使用的是預訓練的Word2Vec詞向量，用Skip-Gram模型來訓練。

　　位置特征是某個詞與兩個實體的相對距離，位置特征嵌入就是把兩個相對距離轉化為向量，再拼接起來。

　　比如下面這個句子中，單詞son和實體Kojo Annan的相對距離為3，和實體Kofi Annan的相對距離為-2。

　　假設詞嵌入的維度是d_w，位置特征嵌入的維度是d_p，那么每個詞的特征向量的維度就是：d=d_w+2*d_p。假設句子長度為s，那么神經網絡的輸入就是s×d維的矩陣。

　　（2）卷積

　　假設卷積核的寬為w（滑動窗口），長為d（詞的特征向量維度），那么卷積核的大小為W=w * d。步長為1。

　　輸入層為q = s×d維的矩陣，卷積操作就是每滑動一次，就用卷積核W與q的w-gram做點積，得到一個數值。

　　卷積完成后會得到（s+w-1）個數值，也就是長度為（s+w-1）的向量c。文本的卷積和圖像的卷積不同，只能沿著句子的長度方向滑動，所以得到的是一個向量而不是矩陣。

　　為了得到更豐富的特征，使用了n個卷積核W={W₁, W₂, ... W_n}，第i個卷積核滑動一次得到的數值為：

　　最終，卷積操作完成后會輸出一個矩陣C：

　　（3）分段最大池化

　　把每個卷積核得到的向量c_i按兩個實體劃分為三部分{c_i1, c_{i2, ...,} c_i3}，分段最大池化也就是分別取每個部分的最大值：

　　那么對于每個卷積核得到的向量c_i，我們都能得到一個3維的向量p_i。為了便于下一步輸入到softmax層，把n個卷積核經過池化后的向量p_i拼接成一個向量p_1:n，長度為3n。

　　最后用tanh激活函數進行非線性處理，得到最終的輸出：

　　（4）softmax多分類

　　把池化層得到的g輸入到softmax層，計算屬于每種關系的概率值。論文中使用了Dropout正則化，把池化層的輸出g以r的概率隨機丟棄，得到的softmax層的輸出為：

　　輸出的向量是關系的概率分布，長度為關系的種類（n₁）。概率值最大的關系就是句子中的實體對被預測的關系。

　　2、多實例學習的過程

　　我們知道一般神經網絡模型的套路是，batch-size個句子經過神經網絡的sotfmax層后，得到batch-size個概率分布，然后與關系標簽的one-hot向量相比較，計算交叉熵損失，最后進行反向傳播。因此上述PCNNs網絡結構的處理流程僅是一次正向傳播的過程。

　　PCNNs結合多實例學習的做法則有些差別，目標函數仍然是交叉熵損失函數，但是基于實體對級別（論文中的bags）去計算損失，而不是基于句子級別（論文中的instances）。這是什么意思呢？

　　對照上面的圖，計算交叉熵損失分為兩步：

　　第一步，對于每個實體對，會有很多包含該實體對的句子（q_i個），每個句子經過softmax層都可以得到一個概率分布，進而得到預測的關系標簽和概率值。為了消除錯誤標注樣本的影響，從這些句子中僅挑出一個概率值最大的句子和它的預測結果，作為這個實體對的預測結果，用于計算交叉熵損失。比如上面的例子中，挑出了第二個句子。公式為：

　　第二步，如果一個batch-size有T個實體對，那么用第一步挑選出來的T個句子，計算交叉熵損失：

　　最后用梯度下降法求出梯度，并進行誤差反向傳播。

　　如下是算法的偽代碼，θ是PCNNs的參數，Eq.(9)是第一步中的公式。

　　（四）實驗細節

　　1、數據集和評估方法

　　知識圖譜為Freebase，外部文檔庫為NYT。把NYT文檔庫中2005-2006年的句子作為訓練集，2007年的句子作為測試集。

　　評估方法沿用第一篇論文中的方法，留出法和人工校驗相結合。

　　2、詞嵌入和調參

　　預訓練的詞向量方面，本文用Skip-Gram模型和NYT文檔庫訓練了50維的詞向量。

　　位置特征嵌入使用隨機初始化的向量，維度為5。

　　調參方面，PCNNs網絡結構中有兩個參數比較重要：卷積核的滑動窗口大小和卷積核的個數。本文使用網格搜索，最終確定滑動窗口為3，卷積核個數為230。

　　模型的其他參數如下：

　　3、模型評估結果

　　（1）對留出法和人工校驗法的說明

　　使用留出法和人工校驗法來評估模型的效果。這里對這兩種評估方法進行補充說明：

　　留出法的做法是把Freebase中一半的實體對用于訓練，一半的實體對用于測試。多分類模型訓練好之后，對外部文檔庫NYT中的測試集進行預測，得到測試集中實體對的關系標簽。如果新發現的實體對有N個，其中有n個出現在Freebase的測試集中，那么準確率為n/N，而不在Freebase測試集中的實體對就視為不存在關系。可是由于Freebase中的實體對太少了，新發現的、不在Freebase里的實體對并非真的不存在關系，這就會出現假負例（False Negatives）的問題，低估了準確率。

　　所以人工校驗的方法是對留出法的一個補充，對于那些新發現的、不在Freebase測試集中的實體對（一個實體不在或者兩個實體都不在）進行檢查，計算查準率。所以留出法和人工校驗要評估的兩個新實體對集合是沒有交集的。具體做法是從這些新實體對中選擇概率值最高的前N個，然后人工檢查其中關系標簽正確的實體對，如果有n個，那么查準率為n/N。

　　（2）卷積神經網絡與人工構造特征的對比

　　首先把PCNNs結合多實例學習的遠程監督模型（記為PCNNs+MIL），與人工構造特征的遠程監督算法（記為Mintz）和多實例學習的算法（記為MultiR和MIML）進行比較。

　　從下面的實驗結果中可以看到，無論是查準率還是查全率，PCNNs+MIL模型都顯著優于其他模型，這說明用卷積神經網絡作為自動特征抽取器，可以有效降低人工構造特征和NLP工具提取特征帶來的誤差。

　　（3）分段最大池化和多實例學習的有效性

　　將分段最大池化和普通的最大池化的效果進行對比（PCNNs VS CNNs），將結合多實例學習的卷積網絡與單純的卷積網絡進行對比（PCNNs+MIL VS PCNNs）。

　　可以看到，分段最大池化比普通的最大池化效果更好，表明分段最大池化可以抽取更豐富的結構特征。把多實例學習加入到卷積網絡中，效果也有一定的提升，表明多實例學習可以緩解樣本標注錯誤的問題。

　　（四）評價

　　這篇論文中，分段最大池化的奇思妙想來自于傳統人工構造特征的思想，而多實例學習的引入緩解了第一篇論文中的樣本錯誤標注問題。這篇論文出來以后是當時的SOTA。

　　不足之處在于，多實例學習僅從包含某個實體對的多個句子中，挑出一個最可能的句子來訓練，這必然會損失大量的信息。所以有學者提出用句子級別的注意力機制來解決這個問題。

四、句子級別的注意力機制

　　第三篇論文是《Neural Relation Extraction with Selective Attention over Instances》，這篇論文首次把注意力機制引入到了關系抽取的遠程監督算法中，刷新了當時的SOTA。論文作者中有知乎網紅劉知遠老師。

　　（一）論文的貢獻

　　這篇論文要解決的問題，就是多實例學習會遺漏大量信息的問題。所以這篇論文用句子級別的注意力機制代替多實例學習，對于包含某實體對的所有句子，給每一個句子計算一個注意力得分，動態地降低標注錯誤的樣本的得分，再進行加權求和，從而充分利用所有句子的信息。

　　多實例學習相當于硬注意力機制（Hard Attention），而我們耳熟能詳的以及論文中用到的注意力機制是選擇性注意力機制（Selective Attention）或者說軟注意力機制（Soft Attention），所以多實例學習其實是選擇性注意力機制的特殊情況（只有一個句子的權重為1，其他全為0）。

　　（二）模型介紹

　　模型主要分為兩個部分：句子編碼器和注意力層。

　　1、句子編碼器

　　句子編碼器就是上一篇論文中的PCNN或CNN網絡結構，由卷積神經網絡的輸入層、卷積層、池化層、非線性映射層（或者說激活函數）構成。

　　文本特征同樣用詞嵌入和位置特征嵌入，池化層用普通的最大池化或者分段最大池化。

　　因此，本文的句子編碼器部分輸出的是一個句子經過最大池化并且非線性激活后的特征向量，用于輸入到注意力層。這部分和上一篇論文基本相同，無須贅述。

　　2、注意力層

　　句子編碼器的作用是抽取一個句子的特征，得到一個特征向量。如果外部文檔庫中包含某實體對的句子有n條，那么經過句子編碼器的處理后，可以得到n個特征向量：x₁, x₂, ..., x_n。在句子編碼器和softmax層之間加一個選擇性注意力層，那么處理的步驟如下：

　　第一步：計算句子的特征向量x_i和關系標簽r的匹配度e_i，并計算注意力得分α_i。公式中的r是關系標簽的向量表示。

　　第二步：計算該實體對的特征向量s。該實體對的特征向量是所有句子的特征向量x_i的加權之和，權重為每個句子的注意力得分α_i。

　　第三步：經過softmax層得到該實體對關于所有關系的概率分布，概率值最大的關系為預測的關系標簽。

　　3、誤差反向傳播

　　如果一個batch-size有s個實體對，那么用s個實體對的概率分布，計算交叉熵損失：

　　最后用梯度下降法求出梯度，并進行誤差反向傳播。

　　（三）實驗細節

　　1、數據集和評估方法

　　數據集和上一篇論文一樣，知識圖譜是Freebase，外部的文檔庫是NYT（New York Times corpus）。劃分數據集的做法也一致。

　　評估方法采用留出法，不再贅述。

　　2、詞嵌入和參數設置

　　用NYT數據集訓練Word2Vec，用網格搜索（Grid Search）確定參數。

　　3、選擇性注意力機制的效果

　　句子編碼器分別采用CNN和PCNN的網絡結構，PCNN+ONE表示PCNN結合多實例學習的模型，PCNN+ATT表示論文中的選擇性注意力模型，PCNN+AVE表示對各句子求算術平均的模型（每個句子的注意力得分相同）。

　　實驗結果表明，無論是CNN還是PCNN，加入注意力機制的模型在查準率和查全率上，都顯著優于其他模型。

　　論文還有其他更細致的實驗，欲知詳情，請自行翻看論文。

　　（四）評價

　　這篇論文把注意力機制和CNN句子編碼器結合，用來解決多實例學習存在的遺漏信息問題，更好地緩解了遠程監督算法中的樣本錯誤標注問題。

　　注意力機制在NLP任務中的效果是有目共睹的，PCNN+ATT的模型看起來非常漂亮，那么有什么改進方向呢？

　　開頭我們說了，關系抽取可以分為流水線式抽取（Pipline）和聯合抽取（Joint Extraction）兩種，流水線式抽取就是把關系抽取的任務分為兩個步驟：首先做實體識別，再抽取出兩個實體的關系；而聯合抽取的方式就是一步到位，同時抽取出實體和關系。

　　因此上面介紹的三篇論文中的模型都屬于流水線式抽取的方法，實體識別和關系抽取的模型是分開的，那么實體識別中的誤差會影響到關系抽取的效果。而聯合抽取用一個模型直接做到了實體識別和關系抽取，是一個值得研究的方向。

參考資料：

1、《Speech and Language Processing》（Third Edition draft）第17章

2、《cs224u: Relation extraction with distant supervision》

3、《Distant supervision for relation extraction without labeled data》

4、《Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks》

5、《Neural Relation Extraction with Selective Attention over Instances》

6、《Joint Extraction of Entities and Relations Based on a Novel Tagging Scheme》

總結

以上是生活随笔為你收集整理的关系抽取之远程监督算法的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。