IT之家 11 月 9 日消息，國外科技媒體 Semianalysis 近日發(fā)布付費(fèi)文章，表示三款中國特供版 AI 芯片之一，在 LLM 推理中，要比 H100 快 20% 以上。

IT之家此前報(bào)道，英偉達(dá)即將推出 HGX H20、L20 PCle 和 L2 PCle 接口芯片，這三款芯片均基于英偉達(dá) H100 改良而來，官方已經(jīng)生產(chǎn)出這些 GPU 樣品，并預(yù)估下月投入批量生產(chǎn)。

消息稱英偉達(dá)預(yù)計(jì)最快將于 11 月 16 號(hào)之后公布，國內(nèi)廠商最快將在這幾天拿到樣品。

這篇付費(fèi)文章中詳細(xì)介紹了英偉達(dá) H20、L20 和 L2 的詳細(xì)信息，涉及 FLOPS 數(shù)據(jù)、NVLink 帶寬、功耗、內(nèi)存帶寬、內(nèi)存容量、芯片尺寸等。

文章中寫道：

更為重要的是，在這三款中國特供版 GPU 中，其中一款（并未明確是哪款，但應(yīng)該是指 H20）在 LLM 推理中要比 H100 快 20%，而且性能接近于英偉達(dá)明年年初發(fā)布的新款 GPU。

報(bào)道中還提及的一點(diǎn)是，英偉達(dá) HGX H20 采用 HGX 格式，采用臺(tái)積電的 CoWoS 封裝。而另外兩款芯片主要基于 Ada，面向游戲領(lǐng)域，不需要復(fù)雜的封裝。

該文章還預(yù)測了英偉達(dá) 2024 和 2025 財(cái)年業(yè)績，此前消息稱由于美國不斷地加碼，英偉達(dá)丟失了超過價(jià)值 50 億美元的訂單，而借助這些中國專供 GPU，會(huì)改善英偉達(dá)的業(yè)績表現(xiàn)。

總結(jié)

以上是生活随笔為你收集整理的消息称英伟达针对中国区改良版H20在LLM推理中比H100更快的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。