“國(guó)內(nèi)有數(shù)十家做大模型的企業(yè)，大多已經(jīng)在火山引擎云上”。

4月18日，火山引擎“原動(dòng)力大會(huì)”，火山引擎總裁譚待透露，他認(rèn)為，大模型不會(huì)一家獨(dú)大。與其他云廠商力推自家大模型不同的是，火山引擎將接入多家大模型深度合作，為企業(yè)和消費(fèi)者提供更豐富的AI應(yīng)用。

現(xiàn)場(chǎng)，火山引擎發(fā)布自研DPU等系列云產(chǎn)品，并推出新版機(jī)器學(xué)習(xí)平臺(tái)：宣布支持萬卡級(jí)大模型訓(xùn)練、微秒級(jí)延遲網(wǎng)絡(luò)，讓大模型訓(xùn)練更穩(wěn)更快。

談大模型：讓訓(xùn)練快速跑起來

火山引擎總裁譚待談到，AI大模型有巨大潛力和創(chuàng)新空間，火山引擎會(huì)服務(wù)客戶做好大模型，共同推動(dòng)各行業(yè)的智能化升級(jí)。

火山引擎總裁譚待

資料顯示，ChatGPT成為人類歷史上最快獲得上億用戶的消費(fèi)級(jí)互聯(lián)網(wǎng)應(yīng)用。最新的GPT-4大模型，更是在法律、數(shù)學(xué)、生物學(xué)等多項(xiàng)測(cè)試中超過90%人類。

譚待表示，國(guó)內(nèi)很多科技公司投入到大模型建設(shè)中，他們有優(yōu)秀的技術(shù)團(tuán)隊(duì)，也有豐富的行業(yè)知識(shí)和創(chuàng)新想法，但往往缺乏經(jīng)過大規(guī)模場(chǎng)景實(shí)踐的系統(tǒng)工程能力。火山引擎要做的就是為大模型客戶提供高穩(wěn)定性和高性價(jià)比的AI基礎(chǔ)設(shè)施。

據(jù)悉，火山引擎機(jī)器學(xué)習(xí)平臺(tái)經(jīng)過抖音等海量用戶業(yè)務(wù)長(zhǎng)期打磨，支持單任務(wù)萬卡級(jí)別的超大規(guī)模分布式并行訓(xùn)練場(chǎng)景。GPU彈性計(jì)算實(shí)例可靈活調(diào)度資源，隨用隨取，最高可以為客戶節(jié)省70%的算力成本。

談新構(gòu)架：向“多云多模型”架構(gòu)演進(jìn)

可以預(yù)見，大模型將帶動(dòng)云上AI算力急劇增長(zhǎng)，AI算力的工作負(fù)載與通用算力的差距會(huì)越來越小，這會(huì)為各家云廠商帶來新的機(jī)會(huì)，同時(shí)也會(huì)對(duì)數(shù)據(jù)中心、軟硬件棧、PaaS平臺(tái)帶來新的挑戰(zhàn)。

基于此，譚待表示：“大模型需要大算力，虛擬化會(huì)帶來資源損耗，規(guī)模越大就損耗越多。未來3年內(nèi)，大規(guī)模的算力中心，都將形成‘CPU+GPU+DPU’的混合算力結(jié)構(gòu)，CPU負(fù)責(zé)通用計(jì)算，GPU負(fù)責(zé)AI計(jì)算，DPU負(fù)責(zé)資源卸載、加速和隔離，提升資源效率”。

字節(jié)跳動(dòng)副總裁楊震原

從新架構(gòu)新方案的角度來看，火山引擎發(fā)布了新一代自研DPU，實(shí)現(xiàn)計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)的全組件卸載，釋放更多資源給業(yè)務(wù)負(fù)載。據(jù)介紹，基于自研DPU的各類計(jì)算實(shí)例性能有顯著提升，例如適用于大模型分布式并行訓(xùn)練場(chǎng)景的GPU實(shí)例，相較上一代實(shí)例集群性能最高提升3倍以上。

譚待表示，在大模型及下游應(yīng)用發(fā)展推動(dòng)下，無論傳統(tǒng)企業(yè)還是初創(chuàng)企業(yè)，對(duì)AI算力都有迫切需求，企業(yè)使用多家云服務(wù)將成為常態(tài)。同時(shí)，各行業(yè)有自己高質(zhì)量的私有語料，大模型不會(huì)一家獨(dú)大，而是會(huì)在千行百業(yè)生長(zhǎng)，形成多模型共生甚至協(xié)作的生態(tài)。“未來將是‘多云多模型’的時(shí)代”，譚待稱。

據(jù)悉，火山引擎也順勢(shì)推出了分布式云原生平臺(tái)、多云安全、多云CDN、veStack混合云平臺(tái)等系列產(chǎn)品，支持客戶更好地使用多家云服務(wù)。(丁廣勝)

總結(jié)

以上是生活随笔為你收集整理的谭待：国内大模型领域，七成以上跑在火山引擎之上的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。