「AI Drive」是由 PaperWeekly 和 biendata 共同發(fā)起的學(xué)術(shù)直播間，旨在幫助更多的青年學(xué)者宣傳其最新科研成果。我們一直認(rèn)為，單向地輸出知識(shí)并不是一個(gè)最好的方式，而有效地反饋和交流可能會(huì)讓知識(shí)的傳播更加有意義，從而產(chǎn)生更大的價(jià)值。

神經(jīng)關(guān)系抽取旨在利用神經(jīng)網(wǎng)絡(luò)模型進(jìn)行關(guān)系抽取。近年來，神經(jīng)關(guān)系抽取已經(jīng)在關(guān)系抽取任務(wù)上取得了 SOTA?的效果。神經(jīng)關(guān)系抽取模型具有強(qiáng)大的編碼能力和擬合能力， 能夠自動(dòng)抽取特征進(jìn)行學(xué)習(xí)。但是目前還沒有工作系統(tǒng)地分析過神經(jīng)關(guān)系模型所依賴的特征對(duì)模型效果的影響。

本期 AI Drive，我們邀請(qǐng)到清華大學(xué)計(jì)算機(jī)系本科生彭皓，為大家解讀其發(fā)表于 EMNLP 2020 的最新工作。對(duì)本期主題感興趣的小伙伴，11 月 19日（周四）晚 7 點(diǎn)，我們準(zhǔn)時(shí)相約 PaperWeekly B 站直播間。

直播信息

本篇工作針對(duì)神經(jīng)關(guān)系抽取的兩個(gè)主要特征（上下文信息和實(shí)體信息）進(jìn)行了分析。我們發(fā)現(xiàn)：1）上下文信息是神經(jīng)關(guān)系抽取模型的主要信息來源，同時(shí)模型也存在對(duì)實(shí)體信息的過度依賴問題。而實(shí)體信息中大部分是實(shí)體類型信息；2）現(xiàn)有的數(shù)據(jù)集可能會(huì)通過實(shí)體泄露淺層的啟發(fā)式信息，這可能也導(dǎo)致了一些關(guān)系抽取任務(wù)的效果虛高。

基于以上分析，我們提出了采用實(shí)體遮蔽的對(duì)比學(xué)習(xí)框架，旨在幫助模型更好的借助上下文信息和實(shí)體類型信息，同時(shí)避免因?yàn)閮H僅記住簡(jiǎn)單的特征造成的模型偏差（bias）。該預(yù)訓(xùn)練框架提高了多個(gè)場(chǎng)景下神經(jīng)關(guān)系抽取模型的有效性和魯棒性。

論文標(biāo)題：

Learning from Context or Names? An Empirical Study on Neural Relation Extraction

代碼和數(shù)據(jù)：

https://github.com/thunlp/RE-Context-or-Names

論文鏈接：

https://arxiv.org/abs/2010.01923

本次分享首先將陳述關(guān)系抽取的背景，之后介紹我們的希望研究的問題以及我們的發(fā)現(xiàn)，最后介紹我們針對(duì)問題提出的新的基于對(duì)比學(xué)習(xí)的預(yù)訓(xùn)練模型。

嘉賓介紹

?彭皓?/ 清華大學(xué)計(jì)算機(jī)系本科生?

彭皓，現(xiàn)清華大學(xué)計(jì)算機(jī)系本科四年級(jí)在讀。主要研究領(lǐng)域?yàn)殛P(guān)系抽取，知識(shí)圖譜。以共同一作的身份發(fā)表 EMNLP 2020 頂級(jí)國際會(huì)議論文 1 篇。目前已經(jīng)推研到李涓子老師實(shí)驗(yàn)室，未來在李涓子老師指導(dǎo)下攻讀碩士，繼續(xù)知識(shí)獲取與表示相關(guān)的研究。

直播地址?& 交流群

本次直播將在 PaperWeekly B 站直播間進(jìn)行，掃描下方海報(bào)二維碼或點(diǎn)擊閱讀原文即可免費(fèi)觀看。線上分享結(jié)束后，嘉賓還將在直播交流群內(nèi)實(shí)時(shí) QA，在 PaperWeekly 微信公眾號(hào)后臺(tái)回復(fù)「AI Drive」，即可獲取入群通道。

B 站直播間：

https://live.bilibili.com/14884511

合作伙伴

????

現(xiàn)在，在「知乎」也能找到我們了

進(jìn)入知乎首頁搜索「PaperWeekly」

點(diǎn)擊「關(guān)注」訂閱我們的專欄吧

關(guān)于PaperWeekly

PaperWeekly 是一個(gè)推薦、解讀、討論、報(bào)道人工智能前沿論文成果的學(xué)術(shù)平臺(tái)。如果你研究或從事 AI 領(lǐng)域，歡迎在公眾號(hào)后臺(tái)點(diǎn)擊「交流群」，小助手將把你帶入 PaperWeekly 的交流群里。

總結(jié)

以上是生活随笔為你收集整理的直播 | EMNLP 2020论文解读：从上下文学习还是从实体名字学习？的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。