小扎 All in 开源 AGI:正训练 Llama 3,年底将有 35 万块 H100
小扎宣布新目標(biāo):All in 開源 AGI。
不錯(cuò),小扎又 All in 了,正是 OpenAI 谷歌必爭(zhēng)之地。
不過在 AGI 之前,著重強(qiáng)調(diào)了是 Open Sourse(開源)的。
此舉受到不少好評(píng),一如此前 LIama 系列大模型開源之時(shí)。
不過此次又一波 All in,不禁讓網(wǎng)友想起上一波 All in 了:元宇宙去哪里了???
但必須要說的是,此次列的 Flag 確實(shí)更具體一些,甚至也透露了一些關(guān)鍵數(shù)據(jù)。
比如,
年底將有 35 萬塊 H100,而包括其他 GPU 在內(nèi),總算力將相當(dāng)于 60 萬塊 H100。
FAIR 團(tuán)隊(duì)的工作將與 GenAI 團(tuán)隊(duì)更為緊密。
LIama 3 即將到來。
最后他還打了個(gè)小廣告。他們正在打造以 AI 為中心的新型計(jì)算設(shè)備,比如 Ray Ban Meta 智能眼鏡。
看來元宇宙還在繼續(xù)。
小扎又 All in 了
現(xiàn)在,小扎正式宣布加入 AGI 之爭(zhēng)。
雖然沒有明確的時(shí)間表,但作為長(zhǎng)期愿景,明確表示兩個(gè)關(guān)鍵點(diǎn):
負(fù)責(zé)任地開源,并廣泛提供,讓每個(gè)人都能從中獲益。
而為了實(shí)現(xiàn)這一目標(biāo),主要有兩件事:
第一,將現(xiàn)有兩大 AI 研究工作團(tuán)隊(duì)(FAIR 和 GenAI)緊密結(jié)合在一起。
按照 LeCun 的話說,就是兩個(gè)成為兄弟部門。
并表示,Llama-3 is coming!
第二,建設(shè)大規(guī)模的計(jì)算基礎(chǔ)設(shè)施:今年年底將擁有 35 萬塊 H100,總算力相當(dāng)于 60 萬個(gè) H100。
按照 2.5 萬美元至 3 萬美元出售價(jià)來測(cè)算,總算力價(jià)值將達(dá)到 150 億美元至 180 億美元。
此前曾有機(jī)構(gòu)預(yù)計(jì),2023 年英偉達(dá)朝 Meta 的 H100 出貨量能達(dá)到 15 萬塊,同微軟持平,并且至少是其他公司的三倍。
為此小扎表示,我們已經(jīng)建立了這樣的能力,其規(guī)模可能比任何其他單獨(dú)的公司都大。
有網(wǎng)友算了算計(jì)算能力直呼:大腦大小的模型即將到來。
不過也有人質(zhì)疑,英偉達(dá)應(yīng)該生產(chǎn)不了那么多。
但有 Meta 領(lǐng)導(dǎo)現(xiàn)身說法:H100 是包含現(xiàn)有在內(nèi),一共 35 萬塊。
除此之外,還強(qiáng)調(diào)了硬件設(shè)備上的進(jìn)展。
大佬們對(duì)于 AGI 的評(píng)價(jià)
在小扎宣布這一消息之前,不少大佬在達(dá)沃斯世界經(jīng)濟(jì)論壇上發(fā)表了不少關(guān)于 AGI 的評(píng)論。
像 LeCun 則在 The Expanding Universe of Generative Models 這一論壇上強(qiáng)調(diào)了 AGI 實(shí)現(xiàn)路徑中開源的重要性。
我們之所以能在人工智能領(lǐng)域看到如此快速的進(jìn)步,是因?yàn)槿藗冞M(jìn)行了開放研究。
即便他經(jīng)常對(duì) AGI 很快到來(當(dāng)然不是在未來五年內(nèi))表示懷疑,但 AGI 還是到來了。
而 Transformer 主創(chuàng) Aidan Gomez 則表示:
目前我們還沒有完成擴(kuò)展,我們還需要繼續(xù)努力。
至于像 OpenAI CEO 阿爾特曼表示,人類水平的人工智能很快到來,但對(duì)世界的改變遠(yuǎn)比我們想象的要小。
通用人工智能(AGI)可能會(huì)在“相當(dāng)接近的未來”得到開發(fā)。
對(duì)于 AGI 的發(fā)展,你們?cè)趺纯矗?/p>
本文來自微信公眾號(hào):量子位 (ID:QbitAI),作者:白交
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,所有文章均包含本聲明。
總結(jié)
以上是生活随笔為你收集整理的小扎 All in 开源 AGI:正训练 Llama 3,年底将有 35 万块 H100的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: X(推特)安卓版 App 上线音视频通话
- 下一篇: vivo G2 手机上架:天玑 6020