浪潮信息发布大模型智算软件栈 OGAI:为大模型算力提供解决方案
生活随笔
收集整理的這篇文章主要介紹了
浪潮信息发布大模型智算软件栈 OGAI:为大模型算力提供解决方案
小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
【網(wǎng)易科技8月25日報(bào)道】近日,浪潮信息正式發(fā)布大模型智算軟件棧 OGAI。OGAI (Open GenAI Infra)“元腦生智”,是為大模型業(yè)務(wù)提供AI算力系統(tǒng)環(huán)境部署、算力調(diào)度保障及模型開發(fā)管理能力的全棧全流程的智算軟件棧。
據(jù)介紹,OGAI由5層架構(gòu)組成,從L0到L4分別對應(yīng)基礎(chǔ)設(shè)施層的智算中心OS、系統(tǒng)環(huán)境層的PODsys、調(diào)度平臺層的AIStation、模型工具層的YLink和多模納管層的MModel。
記者獲悉,L0層智算中心OS為面向大模型算力服務(wù)的智能算力運(yùn)管平臺,滿足多租戶以裸金屬為主的彈性AI算力運(yùn)管需求;L1層PODsys則為開源、兼容、易用的智算集群系統(tǒng)環(huán)境部署方案;L2層AIStation是面向大模型開發(fā)的商業(yè)化人工智能算力調(diào)度平臺;L3層YLink是面向大模型數(shù)據(jù)治理、預(yù)訓(xùn)練、微調(diào)的工具鏈;L4層MModel是提供多模型接入、服務(wù)、評測等功能的納管平臺。(江淼)
總結(jié)
以上是生活随笔為你收集整理的浪潮信息发布大模型智算软件栈 OGAI:为大模型算力提供解决方案的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 储能人才被疯抢:人均五六个offer,总
- 下一篇: 比亚迪唐 EV / DM-p 冠军版 /