最近在做序列標(biāo)注的相關(guān)任務(wù)，為了理解bi-lstm + crf的原理及細節(jié)，找了很多相關(guān)資料，以及代碼實現(xiàn)，這里分享給大家并附上一些自己的理解。

CRF

相關(guān)資料推薦

關(guān)于crf，我看了很多資料，這里推薦幾個 - 英文的crf tutorial - 李航的統(tǒng)計學(xué)習(xí)方法 這兩個講的很細，公式很多，很多新入坑的小白看了肯定一頭霧水,這里推薦一個知乎大神的回答，通俗易懂，有一些機器學(xué)習(xí)基礎(chǔ)的都可以看懂。 - 知乎Scofield的回答

簡單總結(jié)

這里我簡單總結(jié)一下，以命名實體識別任務(wù)舉例，我們有這樣一組已標(biāo)注的數(shù)據(jù)，B表示一個實體的開頭，I表示當(dāng)前詞為命名實體的后面部分，O表示不是命名實體。

the(B) wall(I) street(I) journal(I) reported(O) today(O) that(O) apple(B) corporation(I) made(O) money(O)

很明顯"the wall street journal"(華爾街日報)、"apple corporation"(蘋果公司)為命名實體。

如果我們有這樣一組已標(biāo)注的數(shù)據(jù)

每個 x_i 是輸入序列，y_i為一個標(biāo)注序列

我們的目標(biāo)是學(xué)習(xí)出一組條件概率分布模型， 即找到一組參數(shù) theta

使得

總結(jié)

以上是生活随笔為你收集整理的bert pytorch 序列标注_序列标注：Bi-LSTM + CRF的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。