直播 | ACL 2021论文解读:为结构预测问题自动寻找更强的词嵌入拼接方式
「AI Drive」是由 PaperWeekly 和 biendata 共同發起的學術直播間,旨在幫助更多的青年學者宣傳其最新科研成果。我們一直認為,單向地輸出知識并不是一個最好的方式,而有效地反饋和交流可能會讓知識的傳播更加有意義,從而產生更大的價值。
本期 AI Drive,我們邀請到上海科技大學博士生王新宇,為大家在線解讀其發表在 ACL 2021 的最新研究成果:Automated Concatenation of Embeddings for Structured Prediction。對本期主題感興趣的小伙伴,7 月 29?日(周四)晚 7 點,我們準時相約 PaperWeekly B 站直播間。
直播信息
最近的工作發現通過拼接不同類型的詞嵌入可以獲得更好的詞特征,從而進一步提高自然語言處理中結構預測問題的效果。但找到最佳的詞嵌入拼接組合往往與具體的任務和可候選的詞嵌入種類有關。同時,隨著基于上下文信息的預訓練語言模型的種類增加,讓這個問題變得更加困難。
受神經架構搜索的最新進展所啟發,本研究提出了自動化拼接嵌入 (ACE) 的方法,為結構化預測任務尋找更好的嵌入拼接。該方法使用一個控制器來對嵌入的拼接進行采樣,根據任務模型基于嵌入拼接的準確度計算獎勵,通過強化學習來優化控制器的參數。實驗結果表明該方法在 6 個任務的 21 個數據集達到了 state-of-the-art。目前代碼已公開。
論文鏈接:
https://arxiv.org/abs/2010.05006
代碼鏈接:
https://github.com/Alibaba-NLP/ACE
本次分享的具體內容有:?
背景介紹:結構預測問題背景的基本介紹
研究動機:介紹為什么要使用 ACE 來進行自動化拼接詞嵌入的搜索
具體方法:介紹 ACE 的基本架構和方式
實驗結果:多個公開的結構預測問題的數據集的實驗結果與分析
工作總結:總結與展望
嘉賓介紹
?王新宇?/ 上海科技大學博士生?
王新宇,上海科技大學博士生,導師為屠可偉教授。主要研究方向為自然語言處理中結構預測問題。目前以第一作者身份已在 ACL、EMNLP 等國際會議發表十余篇論文,其中 ACL 2021 有三篇一作長文被主會接收。
直播地址?& 交流群
本次直播將在 PaperWeekly B 站直播間進行,掃描下方海報二維碼或點擊閱讀原文即可免費觀看。線上分享結束后,嘉賓還將在直播交流群內實時 QA,在 PaperWeekly 微信公眾號后臺回復「AI Drive」,即可獲取入群通道。
B 站直播間:
https://live.bilibili.com/14884511
合作伙伴
????
現在,在「知乎」也能找到我們了
進入知乎首頁搜索「PaperWeekly」
點擊「關注」訂閱我們的專欄吧
·
總結
以上是生活随笔為你收集整理的直播 | ACL 2021论文解读:为结构预测问题自动寻找更强的词嵌入拼接方式的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 烧烤发源地是哪里?
- 下一篇: 用户的购物历史都有用吗?看作者如何运用对