【学术相关】近5年十大最具影响力的 AI 论文,你知道几个?
每年世界各地的科學家都會在AI領域發表數千篇研究論文,但是只有少數文章受到廣泛大家的青睞,并在全球范圍內產生影響力。在本文中我將分享過去5年在頂級AI會議上發表的十大最具影響力的研究論文,排名基于AI會議和期刊的引用次數。
10 解釋和利用對抗性示例
論文地址:https://arxiv.org/abs/1412.6572
該論文是神經網絡生成對抗性示例,引入對抗訓練作為一種正則化技術的最快速方法之一。
它反應了一個非常有趣的現象,即攻擊者對輸入進行微小的修改就會大大降低任何精確的機器學習模型的性能。在其他任務(例如文本和視頻)中也觀察到了這種現象,并導致大量的研究工作,重新考慮ML在現實世界中的關鍵任務的適用性。
9 半監督學習卷積神經網絡
論文地址:https://arxiv.org/abs/1609.02907
在圖上實現半監督節點分類的一個簡單但有效的圖卷積網絡。
圖卷積網絡將深度學習帶入了圖域,顯示了它較以前主導該領域的手工啟發式方法優越性。
8 DCGAN:深度學習生成對抗卷積神經網絡
論文地址:https://arxiv.org/abs/1511.06434
提出了DCGAN,一種用于GAN模型生成器的深層CNN架構,可獲取以前不存在的自然圖像。
GAN是能夠生成人,動物或物體的新圖像的機器學習模型,在照片編輯和設計應用程序中獲得廣泛認可。該方法對于生成新逼真的圖像的所有現代GAN模型都至關重要。
7 用深度神經網絡和樹搜索掌握圍棋游戲
論文地址:https://www.nature.com/articles/nature16961
引入AlphaGo,它是深度強化學習與蒙特卡洛樹搜索算法的結合,在圍棋游戲中擊敗了其他程序和專業人類玩家。
歷史上第一次,計算機程序贏得人類被認為是不可能至少再過十年。
這是史上第一次計算機程序贏得了人類最強大的玩家之一,李塞多爾。這是AI的一個重要里程碑,在此之前,人們認為需要至少十年才會達到這個壯舉。
6 通過深度學習掌握人類級別操控力
論文地址:https://www.nature.com/articles/nature14236
引入強化學習算法DQN,該算法性能可在許多Atari游戲中達到人類專業玩家的水平。
制造業、機器人技術和物流等背后的算法已從硬編碼規則轉變為強化學習模型。DQN是最流行的深度強化學習算法之一,它在各種應用程序中均表現出卓越的性能,而無需將手動設計的策略融入其中。
5 基于聯合學習對齊和翻譯的神經機器翻譯
論文地址:https://arxiv.org/abs/1409.0473
神經網絡首次使用注意力機制進行機器翻譯。注意力是模型只關注源句中的特定單詞而不是整個句子的一種方式。
在機器翻譯中,傳統模型(例如RNN)試圖將有關源語句的所有信息壓縮為單個向量。模型可以有效地將每個詞表示為向量,然后關注每個詞,不僅可以在NLP中而且可以在ML的所有其他領域中有效地構建神經網絡。
4 Attention Is All You Need
論文地址:https://arxiv.org/abs/1706.03762
Transformer 是一個有效的神經網絡,它完全基于注意力機制,在機器翻譯中具有出色的性能。
Transformer模型是另一種流行的語言模型BERT的一部分,它取代了RNN和CNN作為許多處理文本和圖像的應用程序的默認模型,只需要attention機制就能解決Seq-Seq的問題, 并且能夠一步到位獲取了全局信息。
3 Faster R-CNN: 通過Region Proposal網絡實現實時目標檢測
論文地址:https://arxiv.org/abs/1506.01497
高效的端到端卷積神經網絡,用于圖像和視頻中的目標檢測。
影響:Faster R-CNN是工業環境中CV應用蓬勃發展的原因。它在安全攝像頭、自動駕駛汽車和移動應用程序中的使用極大地影響了我們今天對機器的看法。
2 批歸一化:通過減少內部協變量偏移來加速深度網絡訓練
論文地址:https://arxiv.org/abs/1502.03167
通過對輸入特征進行歸一化,使神經網絡訓練更快,更穩定的一種簡單方法。
批歸一化(Batch normalization)是如今幾乎所有神經網絡的主流趨勢,批歸一的存在是深度神經網絡目前取得先進成果的原因之一。
批歸一化1 Adam:一種隨機優化方法
論文地址:https://arxiv.org/abs/1412.6980
Adam是一種基于一階梯度的隨機優化算法,它提供了神經網絡的快速收斂,已被用作當今人們訓練的數百萬個神經網絡的默認優化算法。
往期精彩回顧適合初學者入門人工智能的路線及資料下載機器學習及深度學習筆記等資料打印機器學習在線手冊深度學習筆記專輯《統計學習方法》的代碼復現專輯 AI基礎下載機器學習的數學基礎專輯 本站qq群851320808,加入微信群請掃碼:總結
以上是生活随笔為你收集整理的【学术相关】近5年十大最具影响力的 AI 论文,你知道几个?的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: UC浏览器怎样收藏视频
- 下一篇: TIM提示“个人文件夹被占用,请稍候再登