Meta 发布新一代 AI 训练与推理芯片,性能为初代芯片三倍
4 月 10 日消息,Meta Platforms 當地時間 10 日發布了其訓練與推理加速器項目(MTIA)的最新版本,MTIA 是 Meta 專門為 AI 工作負載設計的定制芯片系列。
據介紹,此次發布的新一代 MTIA 與第一代 MTIA 相比,顯著改進了性能,并有助于強化內容排名和推薦廣告模型。其架構從根本上側重于提供計算、內存帶寬和內存容量的適當平衡。
該芯片還可幫助提高訓練效率,使推理(即實際推理任務)變得更容易。Meta 在其官方博客文章中表示,“實現我們對定制芯片的雄心壯志,意味著我們不僅要投資于計算芯片,還要投資于內存帶寬、網絡和容量以及其他下一代硬件系統。”
目前,MTIA 主要訓練排名和推薦算法,但 Meta 表示,其目標是最終擴展芯片功能,開始訓練生成式人工智能,如其 Llama 語言模型。
此次發布的新一代 MTIA 芯片據悉將“從根本上”側重于提供計算、內存帶寬和內存容量之間的適當平衡。該芯片擁有 256MB 的片上內存和 1.35GHz 的主頻,采用臺積電 5nm 工藝制造,相較于第一代產品的 128MB 和 800MHz 實現了顯著提升。
Meta 公司的早期測試結果顯示,在該公司評估的四種型號中,新芯片的性能達到第一代的三倍。附該芯片詳細參數與前代產品的對比如下圖:
當前該芯片已在數據中心部署,并為 AI 應用提供服務。
廣告聲明:文內含有的對外跳轉鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節省甄選時間,結果僅供參考,所有文章均包含本聲明。
總結
以上是生活随笔為你收集整理的Meta 发布新一代 AI 训练与推理芯片,性能为初代芯片三倍的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 松下全画幅微单相机 S5M2 固件更新,
- 下一篇: 消息称马斯克本月将访问印度,届时将宣布特