日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁 > 运维知识 > windows >内容正文

windows

小扎 All in 开源 AGI:正训练 Llama 3,年底将有 35 万块 H100

發(fā)布時(shí)間:2024/1/21 windows 50 传统文化
生活随笔 收集整理的這篇文章主要介紹了 小扎 All in 开源 AGI:正训练 Llama 3,年底将有 35 万块 H100 小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.

小扎宣布新目標(biāo):All in 開源 AGI。

不錯(cuò),小扎又 All in 了,正是 OpenAI 谷歌必爭(zhēng)之地。

不過在 AGI 之前,著重強(qiáng)調(diào)了是 Open Sourse(開源)的。

此舉受到不少好評(píng),一如此前 LIama 系列大模型開源之時(shí)。

不過此次又一波 All in,不禁讓網(wǎng)友想起上一波 All in 了:元宇宙去哪里了???

但必須要說的是,此次列的 Flag 確實(shí)更具體一些,甚至也透露了一些關(guān)鍵數(shù)據(jù)。

比如,

年底將有 35 萬塊 H100,而包括其他 GPU 在內(nèi),總算力將相當(dāng)于 60 萬塊 H100。

FAIR 團(tuán)隊(duì)的工作將與 GenAI 團(tuán)隊(duì)更為緊密。

LIama 3 即將到來。

最后他還打了個(gè)小廣告。他們正在打造以 AI 為中心的新型計(jì)算設(shè)備,比如 Ray Ban Meta 智能眼鏡。

看來元宇宙還在繼續(xù)。

小扎又 All in 了

現(xiàn)在,小扎正式宣布加入 AGI 之爭(zhēng)。

雖然沒有明確的時(shí)間表,但作為長(zhǎng)期愿景,明確表示兩個(gè)關(guān)鍵點(diǎn):

負(fù)責(zé)任地開源,并廣泛提供,讓每個(gè)人都能從中獲益。

而為了實(shí)現(xiàn)這一目標(biāo),主要有兩件事:

第一,將現(xiàn)有兩大 AI 研究工作團(tuán)隊(duì)(FAIR 和 GenAI)緊密結(jié)合在一起。

按照 LeCun 的話說,就是兩個(gè)成為兄弟部門。

并表示,Llama-3 is coming!

第二,建設(shè)大規(guī)模的計(jì)算基礎(chǔ)設(shè)施:今年年底將擁有 35 萬塊 H100,總算力相當(dāng)于 60 萬個(gè) H100。

按照 2.5 萬美元至 3 萬美元出售價(jià)來測(cè)算,總算力價(jià)值將達(dá)到 150 億美元至 180 億美元。

此前曾有機(jī)構(gòu)預(yù)計(jì),2023 年英偉達(dá)朝 Meta 的 H100 出貨量能達(dá)到 15 萬塊,同微軟持平,并且至少是其他公司的三倍。

為此小扎表示,我們已經(jīng)建立了這樣的能力,其規(guī)模可能比任何其他單獨(dú)的公司都大。

有網(wǎng)友算了算計(jì)算能力直呼:大腦大小的模型即將到來。

不過也有人質(zhì)疑,英偉達(dá)應(yīng)該生產(chǎn)不了那么多。

但有 Meta 領(lǐng)導(dǎo)現(xiàn)身說法:H100 是包含現(xiàn)有在內(nèi),一共 35 萬塊。

除此之外,還強(qiáng)調(diào)了硬件設(shè)備上的進(jìn)展。

大佬們對(duì)于 AGI 的評(píng)價(jià)

在小扎宣布這一消息之前,不少大佬在達(dá)沃斯世界經(jīng)濟(jì)論壇上發(fā)表了不少關(guān)于 AGI 的評(píng)論。

像 LeCun 則在 The Expanding Universe of Generative Models 這一論壇上強(qiáng)調(diào)了 AGI 實(shí)現(xiàn)路徑中開源的重要性。

我們之所以能在人工智能領(lǐng)域看到如此快速的進(jìn)步,是因?yàn)槿藗冞M(jìn)行了開放研究。

即便他經(jīng)常對(duì) AGI 很快到來(當(dāng)然不是在未來五年內(nèi))表示懷疑,但 AGI 還是到來了。

而 Transformer 主創(chuàng) Aidan Gomez 則表示:

目前我們還沒有完成擴(kuò)展,我們還需要繼續(xù)努力。

至于像 OpenAI CEO 阿爾特曼表示,人類水平的人工智能很快到來,但對(duì)世界的改變遠(yuǎn)比我們想象的要小。

通用人工智能(AGI)可能會(huì)在“相當(dāng)接近的未來”得到開發(fā)。

對(duì)于 AGI 的發(fā)展,你們?cè)趺纯矗?/p>

本文來自微信公眾號(hào):量子位 (ID:QbitAI),作者:白交

廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,所有文章均包含本聲明。

總結(jié)

以上是生活随笔為你收集整理的小扎 All in 开源 AGI:正训练 Llama 3,年底将有 35 万块 H100的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò),歡迎將生活随笔推薦給好友。