文 | 豐色 發自 凹非寺
源 | 量子位（QbitAI）

本科生搞科研到底能做出什么成績？

最新被CVPR 2022收錄的一篇論文中，提供了一種新思路來解決深度學習中長尾分布數據的分類問題，最終實現了新SOTA。

論文：https://arxiv.org/abs/2111.09030

文章一共5位作者，有博士生，也有來自新加坡A*STAR的高級研究員……

而排在一作位置的，是一位來自天津大學的本科生——李同學。

厲害的是，這還不是這位“初生牛犢”的第一篇頂會論文，在此之前，他還中了一篇數據挖掘領域的頂會（WWW 2022），同樣是一作。

本科生搞科研，勢頭已經這么強了嗎？

大三進實驗室，大四就有2篇頂會在手

李同學來自天津大學智能與計算學部，今年大四。

這篇CVPR文章，主要就是以新型集成（ensembling）學習策略來解決長尾分類的問題。

長尾分布大家都知道，對于這些數據的分類則是深度學習中十分常見的一個應用。

它的難點主要是樣本量極端不平衡，尤其尾部樣本量過少，難以獲得有效的訓練結果。

目前，基于集成學習的方法顯示出巨大潛力，實現了SOTA性能。

但這種方法有兩個局限性：

一是在failure-sensitive應用中的預測通常不可信，這對極容易出錯的尾部數據的影響非常大；

二是它會為所有樣本分配統一數量的資源（experts），這對于簡單樣本來說，造成了多余、過高的計算成本。

因此，李同學等人提出，通過引入不確定性集成，來實現對尾部類別樣本的自動感知。

在此基礎上，提出為尾部類別樣本動態分配比頭部樣本更多的模型資源（experts），以兼顧性能與效率。

▲ 測試階段使用哈佛提出的DS理論形成joint uncertainty

最終，所得模型實現了對尾部類別樣本的自動化檢測與訓練調節，成為一個解決長尾分類問題的通用模型。

一系列分類、尾部檢測、離群點檢測和故障預測等任務的綜合實驗證明，該模型的性能成功打敗現有的SOTA方法。

今年6月，李同學即將本科畢業，然后將直接以博士生的身份進入普渡大學學習，師從張教授。

張教授剛剛從康奈爾大學統計學博士畢業，在普渡大學擔任助理教授，她的研究方向為機器學習和數據科學中概率模型的構建。

他是在大三的時候，憑著優秀的學習成績進入了學部的機器學習與數據挖掘實驗室。

在導師張長青（天津大學博導）的帶領下，李同學經過短短一年半的學習，就中標了兩篇頂會論文?？梢哉f后生可畏。

越來越多的本科生開始發頂會

不過要說起本科生搞科研，其實大家應該有所注意，很多學校對于這件事越來越開放和重視：

在大三或者更低年級時，就會開放一些名額讓有潛力的學生進入實驗室，和研究生、博士生一起搞科研。

比如清華“星火班”就招募大二學生，北大也鼓勵學生從大二就開始開展科研項目，而像中科大等學校，對做出相應成績的本科生還會給予專門的獎學金。

在這樣的情況下，已經有不少像李同學這樣的學生，在本科期間就發表上頂會了，可謂光環滿身。

比如我們熟悉的清華特獎得主、2016級本科生高天宇，大學四年期間就有四篇頂會在手：兩篇AAAI、兩篇EMNLP，還開過一個直播，專門傳授起自己的科研經驗。

比如MIT本科生毛嘯，大四中標計算機理論頂會FOCS 2021，并摘得最佳學生論文獎。

再比如清華電子系本科生劉泓，3篇一作頂會；北大本科生吳克文不僅發頂會（ACM計算理論年會STOC），還拿下最佳論文獎；以及電子科大本科生王譚也有1篇一作CVPR 2020、浙大本科生任意同樣1篇一作ICML 2019……

類似的例子非常多。

可以說，本科生搞科研是越來越厲害了，大家覺得呢？

后臺回復關鍵詞【入群】

加入賣萌屋NLP、CV與搜推廣與求職討論群

后臺回復關鍵詞【頂會】

獲取ACL、CIKM等各大頂會論文集！

?

[1]http://cic.tju.edu.cn/info/1040/3704.html

總結

以上是生活随笔為你收集整理的CVPR 2022 | 天大本科生论文入选！深度学习长尾分类新SOTA的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。