來源：AI科技評論

作者:維克多

人工智能（AI）基準(zhǔn)為模型提供了衡量和比較的路徑，超越基準(zhǔn)，達(dá)到SOTA，經(jīng)常成為頂會論文的標(biāo)配。同時，有些基準(zhǔn)確實(shí)推動了AI的發(fā)展，例如ImageNet 基準(zhǔn)測試對近幾年的熱潮功不可沒。

如今，ImageNet 基準(zhǔn)仍然在研究中發(fā)揮核心作用，一些新模型，例如谷歌的Vision Transformer在論文中仍然與ImageNet方法進(jìn)行比較。

但，如果某一基準(zhǔn)的分?jǐn)?shù)一直占據(jù)榜首，后續(xù)沒有高質(zhì)量基準(zhǔn)引入，那么這種依靠基準(zhǔn)推動發(fā)展的“路子”就有問題。

近日，維也納醫(yī)科大學(xué)和牛津大學(xué)的研究人員對AI基準(zhǔn)圖譜進(jìn)行了調(diào)查，共統(tǒng)計了2013年以來CV和NLP領(lǐng)域的406項(xiàng)任務(wù)的1688項(xiàng)基準(zhǔn)。發(fā)現(xiàn)：很大一部分基準(zhǔn)迅速趨于接近飽和，還有一部分基準(zhǔn)被擱置；同時，在NLP領(lǐng)域，從2020年開始，新基準(zhǔn)的建立減少，方向轉(zhuǎn)向推理或推理相關(guān)的高級任務(wù)上。

在文中，作者呼吁，未來的工作應(yīng)該著重于大規(guī)模的社區(qū)合作，以及將基準(zhǔn)性能與現(xiàn)實(shí)世界效用和影響相聯(lián)系。

1

33%的AI基準(zhǔn)被“擱置”

從單個基準(zhǔn)出發(fā)，如上圖可以看出基準(zhǔn)上的SOTA有三種狀態(tài)：穩(wěn)定增長，停滯或飽和，以及停滯后的飛躍。其中，穩(wěn)定增長代表技術(shù)穩(wěn)定；停滯背后代表缺乏技術(shù)進(jìn)步的能力；而爆發(fā)是指技術(shù)出現(xiàn)突破。

事實(shí)上，近年來，關(guān)鍵領(lǐng)域，如NLP，有相當(dāng)一部分新基準(zhǔn)迅速趨于飽和，或者設(shè)計針對特定基準(zhǔn)特征過度優(yōu)化的模型，而這些模型往往無法泛化到其他數(shù)據(jù)中。

目前，這些現(xiàn)象已經(jīng)蔓延到相同領(lǐng)域的不同基準(zhǔn)中，例如上圖，CIFAR-10和CIFAR-100的狀態(tài)。

同時，數(shù)量方面也出現(xiàn)了尷尬的局面，例如《2021年的人工智能指數(shù)報告》指出，CV基準(zhǔn)數(shù)量或許能滿足日益增長的任務(wù)需求；而NLP模型的增長速度正在超過現(xiàn)有的問答和自然語言理解基準(zhǔn)。

Martínez-Plumed等學(xué)者分析了 CIFAR-100 和 SQuAD1.1 等 25 個流行 AI 基準(zhǔn)背后“故事”，他們發(fā)現(xiàn)“SOTA 前沿”由某些長期協(xié)作的社區(qū)主導(dǎo)，例如美國或亞洲大學(xué)與科技公司共同合作的組織。

此外，其他學(xué)者分析了大量 AI 基準(zhǔn)測試工作中數(shù)據(jù)集使用和再利用的趨勢，他們發(fā)現(xiàn)，很大一部分“知名”數(shù)據(jù)集是由少數(shù)高知名度的組織提出，其中一些數(shù)據(jù)集被越來越多地重新用于新的任務(wù)。NLP是個例外，它對新的、特定任務(wù)的基準(zhǔn)的引入和使用超過了平均水平。

在這項(xiàng)研究中，維也納醫(yī)科大學(xué)和牛津大學(xué)的研究人員表明：飽和和擱置非常常見。總體看來有以下幾個趨勢：

1.缺乏研究興趣是導(dǎo)致停滯不前的原因之一；

2.所有基準(zhǔn)中的大多數(shù)很快就會達(dá)到技術(shù)停滯或飽和；

3.在某些情況下，會出現(xiàn)持續(xù)增長，例如在 ImageNet 基準(zhǔn)測試中；

4.性能改進(jìn)的動態(tài)變化并不遵循一個清晰可辨的模式：在某些情況下，停滯階段之后是不可預(yù)測的飛躍。

圖注：基準(zhǔn)有三種發(fā)展趨勢：穩(wěn)定增長，停滯或飽和，以及停滯后的飛躍。

此外，在1688個基準(zhǔn)中，只有66%的基準(zhǔn)充分被利用，換言之33%的基準(zhǔn)被擱置。同時，基準(zhǔn)測試的另一個趨勢是：被某些既定機(jī)構(gòu)和公司的數(shù)據(jù)集主導(dǎo)。

2

NLP基準(zhǔn)正面向高難度的任務(wù)

過去幾年，CV領(lǐng)域的基準(zhǔn)占據(jù)主導(dǎo)地位，但NLP也開始了蓬勃發(fā)展。2020年，新基準(zhǔn)的數(shù)量有所下降，越來越多地集中在難度較高的任務(wù)上，例如測試推理的任務(wù)，例如BIG-bench和NetHack，前者屬于谷歌，后者來自Facebook。

上圖是NLP的基準(zhǔn)生命周期展示，可以清晰看出，大多數(shù)任務(wù)的幾個主流基準(zhǔn)是在2011~2015年間建立的，這期間，也只有少數(shù)幾個SOTA出現(xiàn)。2016年之后，新基準(zhǔn)的建立速度大大加快，在翻譯和自然語言建模方面表現(xiàn)最為突出；2018和2019年，分別都針對各種任務(wù)建立了大量的基準(zhǔn)；2020年是個轉(zhuǎn)折點(diǎn)，新基準(zhǔn)的建立減少，方向轉(zhuǎn)向推理或推理相關(guān)的高級任務(wù)上。

整體來說，當(dāng)前AI基準(zhǔn)的趨勢是：來自既定機(jī)構(gòu)（包括工業(yè)界）的基準(zhǔn)的趨勢引起了人們對基準(zhǔn)的偏見和代表性的關(guān)注；許多基準(zhǔn)并不能完全將AI性能與現(xiàn)實(shí)世界相匹配，因此，開發(fā)少量但有質(zhì)量保證，涵蓋多種AI能力、場景的基準(zhǔn)可能是可取的。

最后，研究人員展望，在未來，新的基準(zhǔn)應(yīng)該由來自許多機(jī)構(gòu)、知識領(lǐng)域的大型合作團(tuán)隊(duì)開發(fā)，如此才能確保建立高質(zhì)量的基準(zhǔn)。

參考鏈接

https://mixed-news.com/en/are-we-running-out-of-ai-benchmarks/

https://arxiv.org/ftp/arxiv/papers/2203/2203.04592.pdf

未來智能實(shí)驗(yàn)室的主要工作包括：建立AI智能系統(tǒng)智商評測體系，開展世界人工智能智商評測；開展互聯(lián)網(wǎng)（城市）大腦研究計劃，構(gòu)建互聯(lián)網(wǎng)（城市）大腦技術(shù)和企業(yè)圖譜，為提升企業(yè)，行業(yè)與城市的智能水平服務(wù)。每日推薦范圍未來科技發(fā)展趨勢的學(xué)習(xí)型文章。目前線上平臺已收藏上千篇精華前沿科技文章和報告。

??如果您對實(shí)驗(yàn)室的研究感興趣，歡迎加入未來智能實(shí)驗(yàn)室線上平臺。掃描以下二維碼或點(diǎn)擊本文左下角“閱讀原文”

總結(jié)

以上是生活随笔為你收集整理的牛津大学最新调研：AI面临基准危机，NLP集中“攻关”推理测试的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。