联发科天玑 9300 成功在端侧运行 130 亿参数 AI 大模型
11 月 6 日消息，聯(lián)發(fā)科天璣 9300 旗艦芯片于今晚發(fā)布，根據(jù)官方的介紹，天璣 9300 升級(jí)到 APU 790，支持 8 倍速生成式 AI Transformer 算子加速、特有內(nèi)存硬件壓縮技術(shù)、NeuroPilot Compression 混合精度 INT4 量化技術(shù)、2 倍整數(shù)運(yùn)算 2 倍浮點(diǎn)運(yùn)算 45% 功耗降低。
聯(lián)發(fā)科官方表示，天璣 9300 已在端側(cè)落地 70 億參數(shù) AI 大語言模型，且成功在端側(cè)運(yùn)行 130 億參數(shù) AI 大語言模型，還成功運(yùn)行 330 億參數(shù)的 AI 大語言模型。
此外，天璣 9300 將支持生成式 AI 文生圖功能，可以生成表情包。
聯(lián)發(fā)科還介紹了與 vivo 合作打造的“藍(lán)心小 V”，這個(gè)工具已經(jīng)在 2023 vivo 開發(fā)者大會(huì)上公布了，是 OriginOS 4 的“專屬私人助理”，具體介紹可以看此前報(bào)道。
聯(lián)發(fā)科還和安卓、百度、Meta、百川智能達(dá)成合作，在天璣 9300 上優(yōu)化適配這些平臺(tái)的大語言模型。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，所有文章均包含本聲明。
總結(jié)
以上是生活随笔為你收集整理的联发科天玑 9300 成功在端侧运行 130 亿参数 AI 大模型的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： 揭秘因果报应的原理
- 下一篇： 144Hz 高刷新率：优派 HD 27