【網(wǎng)易科技7月14日?qǐng)?bào)道】浪潮信息聯(lián)合英特爾發(fā)布面向生成式AI領(lǐng)域創(chuàng)新開(kāi)發(fā)的新一代AI服務(wù)器NF5698G7。

記者獲悉，浪潮信息NF5698G7在6U空間支持8顆基于開(kāi)放加速模組OAM高速互聯(lián)的Gaudi2 AI加速器，每顆Gaudi2芯片配置96GB HBM高速內(nèi)存，共提供2.1Tbps的P2P互聯(lián)帶寬，支持全互聯(lián)拓?fù)洌瑵M足大模型訓(xùn)練張量并行的通信需求；搭載2顆第四代至強(qiáng)處理器，支持AMX/DSA等AI加速引擎。

Gaudi2是英特爾推出的深度學(xué)習(xí)加速器，以多方位性能與能效比提升，為業(yè)界提供了高性能、高性價(jià)比的AI算力選項(xiàng)，在MLPerf的GPT-3、ResNet-50、Unet3D、BERT等基準(zhǔn)測(cè)試中，均取得了優(yōu)異的性能表現(xiàn)。

與此同時(shí)，NF5698G7采用高擴(kuò)展設(shè)計(jì)，支持12個(gè)PCIe5.0 X16的IO擴(kuò)展，最大支持4800Gbps節(jié)點(diǎn)間互聯(lián)帶寬，滿足大模型流水線并行和數(shù)據(jù)并行的通信需求，可擴(kuò)展至萬(wàn)卡AI集群。NF5698G7通過(guò)精細(xì)化分區(qū)、智能散熱調(diào)控、12V & 54V N+N雙輸入供電等創(chuàng)新設(shè)計(jì)，實(shí)現(xiàn)高功率負(fù)載動(dòng)態(tài)匹配和低電源功率損耗，系統(tǒng)功耗降低8%。

NF5698G7基于全球開(kāi)放計(jì)算OCP開(kāi)放加速器規(guī)范 OAM/UBB進(jìn)行產(chǎn)品設(shè)計(jì)，支持PyTorch、TensorFlow等主流AI框架和Megatron/DeepSpeed等流行開(kāi)發(fā)工具，為生成式AI提供成熟、高性價(jià)比的開(kāi)放生態(tài)產(chǎn)品方案。

NF5698G7支持浪潮信息的AI算力資源平臺(tái)AIStation，通過(guò)對(duì)計(jì)算資源、數(shù)據(jù)資源、深度學(xué)習(xí)軟件棧資源進(jìn)行統(tǒng)一管理，有效提升大模型算力平臺(tái)的使用效率，助力客戶加速AI大模型開(kāi)發(fā)與部署。

總結(jié)

以上是生活随笔為你收集整理的浪潮信息与英特尔发布新一代AI服务器NF5698G7 支持8颗Gaudi2加速器的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。