每周论文清单:高质量文本生成,多模态情感分析,还有一大波GAN | PaperDaily #26
在碎片化閱讀充斥眼球的時代,越來越少的人會去關注每篇論文背后的探索和思考。
在這個欄目里,你會快速 get 每篇精選論文的亮點和痛點,時刻緊跟 AI 前沿成果。
點擊本文底部的「閱讀原文」即刻加入社區,查看更多最新論文推薦。
這是 PaperDaily 的第?27?篇文章[ 自然語言處理 ]Multi-channel Encoder for Neural Machine Translation
@Synced 推薦
#Neural Machine Translation
文章提出了一種多信道編碼器(MCE)模型,可改進傳統神經機器翻譯(NMT)模型單一信道編碼的缺點。該模型在中英翻譯上的 BLEU 值提升了超過 6 個百分點,在英法翻譯上用單層模型取得了可與深層模型媲美的效果。
DisSent: Sentence Representation Learning from Explicit Discourse Relations@Ttssxuan 推薦
#Sentence Embedding
借助文檔中一些特殊的詞訓練句子 embedding。使用文檔中 but、because、although 等詞,以及其前后或關聯的句子構成語義模型。也就是,使用這些詞和句子的關系,約束了句子向量的生成空間(使用句子向量,預測關聯詞),從而達到訓練句子向量目的。
文章只對英文語料進行了測試,實際中文這樣的結構也很多,如:因為、所以、雖然、但是,可以參考。
End-to-end Learning for Short Text Expansion
@tangxianfeng 推薦
#Short Text Expansion
本文第一次用了 end to end 模型來做 short text expansion 這個 task,方法上用了 memory network 來提升性能,在多個數據集上證明了方法的效果;Short text expansion 對很多問題都有幫助,所以這篇 paper 解決的問題是有意義的。
通過在多個數據集上的實驗證明了 model 的可靠性,設計的方法非常直觀,很 intuitive。
Benchmarking Multimodal Sentiment Analysis@chenbjin 推薦
#Multimodal Sentiment Analysis
多模態情感分析目前還有很多難點,該文提出了一個基于 CNN 的多模態融合框架,融合表情,語音,文本等信息做情感分析,情緒識別。
Adversarial Ranking for Language Generation@zhangjun 推薦
#Generative Adversarial Networks
本文提出了一種 RankGAN 模型,來解決如何生成高質量文本的問題。
PacGAN: The Power of Two Samples in Generative Adversarial Networks@Gapeng 推薦
#Generative Adversarial Networks
本文旨在研究 mode collapse 問題,提出了 Pac Discriminator 的方法用于解決mode collapse。所謂 pac,就是把 Discriminator 的輸入改成多個樣本,這么做的好處在于判別器能夠同時看到多個樣本,可以一定程度上防止 mode collapse 的發生。
我要推薦的并不是他對 mode collapse 的解決方案,而是他分析 mode collapse 的方法,詳情參見第 4、5 章。
Show-and-Fool: Crafting Adversarial Examples for Neural Image Captioning@Synced 推薦
#Adversarial Training
針對深度學習系統的對抗性樣本攻擊問題,來自麻省理工學院,加州大學戴維斯分校,IBM Research 和騰訊 AI Lab 的學者在 arXiv 上發表論文提出對于神經網絡圖像標注系統(neural image captioning system)的對抗樣本生成方法。實驗結果顯示圖像標注系統能夠很容易地被欺騙。
@jamiechoi 推薦
#Image Captioning
用 CNN 做 image caption,與 LSTM 對比的話,CNN 的訓練速度更快,并且從生成的 caption 效果來看,個人感覺 CNN 的效果也更好。
@Layumi 推薦
#Convolutional Neural Network
1. ImageNet 預訓練的網絡是否是最好的?黑狗白狗都訓練成一類 dog,這會損失顏色信息(黑色還是白色)/位置信息(在追球還是樹枝)/數量信息(有多少只狗)。同樣 word2vec 也未必適合需要處理的數據集(blue 和 red 就很近)所以要進一步 finetune;
2. 圖文互搜要求對圖像和文本都有細致的理解。detailed information 很重要;?
3. Ranking Loss 在同時調整兩個 CNN 的時候有難度,所以引入了 instance loss;
4. 在 MSCOCO/Flickr30k 一些 general 數據集上達到 state of the art,在自然語言搜人問題上提升了 18 個點。
Learning Feature Pyramids for Human Pose Estimation@chenhong 推薦
#Pose Estimation
論文是香港中文科技大學王曉剛教授團隊之作,目前在 MPII 官網在 Single Person 領域,PCKh @ 0.5 evaluation measure,取得 state-of-the-art 水平。?
計算機視覺處理人體姿態估計的挑戰在于,隨著計攝像頭視角變化,人體不同部位的圖像會發生顯著性尺度變化(離攝像頭越近的人體部位,看上去越大,圖片中占用像素越多)。
單純低層次或高層次特征是無意義的,需要用特征金字塔網絡來融合多層特征,改進 CNN 特征提取,這也是為什么特征金字塔在目標識別和人體姿態識別領域得到廣泛使用。
論文在 Stacked Hourglass 基礎上,提出 PRMs 模型和研究多分支網絡的權重初始化方法。
本文由 AI 學術社區 PaperWeekly 精選推薦,社區目前已覆蓋自然語言處理、計算機視覺、人工智能、機器學習、數據挖掘和信息檢索等研究方向,點擊「閱讀原文」即刻加入社區!
我是彩蛋?
?解鎖新功能:熱門職位推薦!
PaperWeekly小程序升級啦
今日arXiv√猜你喜歡√熱門職位√
找全職找實習都不是問題
?
?解鎖方式?
1. 識別下方二維碼打開小程序
2. 用PaperWeekly社區賬號進行登陸
3. 登陸后即可解鎖所有功能
?職位發布?
請添加小助手微信(pwbot01)進行咨詢
?
長按識別二維碼,使用小程序
*點擊閱讀原文即可注冊
關于PaperWeekly
PaperWeekly 是一個推薦、解讀、討論、報道人工智能前沿論文成果的學術平臺。如果你研究或從事 AI 領域,歡迎在公眾號后臺點擊「交流群」,小助手將把你帶入 PaperWeekly 的交流群里。
總結
以上是生活随笔為你收集整理的每周论文清单:高质量文本生成,多模态情感分析,还有一大波GAN | PaperDaily #26的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 揭秘阿里小蜜:基于检索模型和生成模型相结
- 下一篇: Github 本周最热的 10 款「机器