5 月 23 日消息，亞馬遜公司的云部門宣布，已與人工智能初創公司 Hugging Face 合作，將在亞馬遜的定制計算芯片上更低成本地運行數千個 AI 模型。

估值 45 億美元（備注：當前約 326.25 億元人民幣）的 Hugging Face 已成為 AI 研究人員和開發者分享聊天機器人或其他 AI 軟件的中心，并得到了亞馬遜、Alphabet 旗下的谷歌和英偉達等公司的支持，它是開發者獲取和調整開源 AI 模型（如 Meta Platforms 的 Llama 3）的主要平臺。

當開發人員調整了開源的 AI 模型后，他們通常希望使用該模型來驅動軟件。亞馬遜和 Hugging Face 周三宣布，他們已經合作在一個名為 Inferentia2 的定制亞馬遜網絡服務（AWS）芯片上實現這一目標。

“對我們來說，效率非常重要 —— 確保盡可能多的人能夠運行模型，并且能夠以最具成本效益的方式運行，”Hugging Face 的產品和增長負責人 Jeff Boudier 說。

AWS 希望吸引更多的 AI 開發者使用其云服務來交付 AI。雖然英偉達在訓練模型的市場上占據主導地位，但 AWS 認為其芯片可以以較低成本運行那些經過訓練的模型。

負責 AWS 人工智能產品的 Matt Wood 表示，你可能每個月訓練這些模型一次，但可能每小時對它們進行成千上萬次推理，這是 Inferentia2 真正閃光的地方。

廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節省甄選時間，結果僅供參考，所有文章均包含本聲明。

投訴水文 我要糾錯

總結

以上是生活随笔為你收集整理的亚马逊与 AI 公司 Hugging Face 合作：定制芯片低成本运行 AI 模型的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。