【網易科技2月21日報道】淮海智算中心與浪潮信息進行了超大規模參數AI大模型訓練性能測試，數據表明，千億參數規模的自然語言AI單體大模型在淮海智算中心計算平臺上的訓練算力效率為53.5%。

具體來說，針對AI大模型訓練的計算特點，浪潮信息AI團隊對淮海智算中心算力系統進行了優化，系統架構上，采用單節點集成8顆加速器的AI服務器，節點內加速器間實現超高速P2P通信，節點間建立低延遲高帶寬的Infiniband通信網絡。

在大模型訓練技術層面，運用了中文巨量AI模型“源1.0”的訓練優化經驗，對分布式訓練策略進行了優化，通過合理設計張量并行、流水并行和數據并行，精準調整模型結構和訓練過程的超參數，最終千億參數規模AI大模型的訓練算力效率達到53.5%。

據悉，這意味著淮海智算中心將可為國內生成式AI創新團隊提供高性能高效率的AI大模型訓練算力服務。(定西)

總結

以上是生活随笔為你收集整理的淮海智算中心宣布AI大模型训练算力效率超50%的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。