日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 人工智能 > ChatGpt >内容正文

ChatGpt

独家解析英伟达最新GPU-A100对AI行业带来的影响

發(fā)布時間:2025/4/5 ChatGpt 53 豆豆
生活随笔 收集整理的這篇文章主要介紹了 独家解析英伟达最新GPU-A100对AI行业带来的影响 小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

最近英偉達發(fā)布了最新GPU-A100,當我們先后經(jīng)歷了K系列、M系列、P系列、V系列之后,這一次的A系列發(fā)布又會帶來哪些影響,未來行業(yè)的走勢如何,新入行的同學(xué)究竟選擇哪個領(lǐng)域入門比較合適。今天我將從3個方向為大家一一剖析,

  • 計算力變強了,會給行業(yè)帶來什么影響

  • 計算力變便宜了,會給行業(yè)帶來什么影響

  • 英偉達的野心在哪里,對行業(yè)有什么影響

1 計算力變強的影響

這次新的GPU在算力方面變強的幅度是比較夸張的,根據(jù)官方數(shù)據(jù)顯示,在Bert模型的場景下,訓(xùn)練和預(yù)測都有大幅度的提升。

同時新的機器搭載了三星的40G的超大HBM2顯存。這些信號意味著什么呢?意味著計算框架的算力層面價值在弱化。過去提到TensorFlow、PyTorch,大家比的是哪種框架在分布式場景下更快,因為當模型的訓(xùn)練量大到單機很難在短時間內(nèi)收斂,因為當模型大小大到單機內(nèi)存沒法承載之后,只能依賴分布式的方案去解決問題。

今天,A100即使在單機情況下也提供了可能過去可能2到5臺機器的分布式能力。也就是說,今天單機的能力變強了。在計算框架層面,未來更多地需要從計算力優(yōu)化的角度轉(zhuǎn)向如何提升用戶體驗,提供更簡單的開發(fā)接口。

所以,未來深度學(xué)習(xí)的開發(fā)會變得更簡單,得益于框架的向用戶體驗轉(zhuǎn)型。另外,框架級別的優(yōu)化工作以及各種模型量化工作,將只在部分超大規(guī)模的應(yīng)用場景下有意義。

如果把AI拆分成三層,最下方是計算力為代表的芯片GPU,中層是計算框架,最上層的是CV、ASR、推薦、NLP等業(yè)務(wù)算法。對于新入行的同學(xué),更多地關(guān)注最上層的業(yè)務(wù)會比較保險,因為框架層的價值會隨著計算力的增強而弱化(在巨頭公司不會有這樣的情況,這里泛指整個行業(yè))。

2 計算力變便宜的影響

GPU發(fā)布會提到了一個觀點,就是計算力的發(fā)展跟不上目前計算量的發(fā)展需求。這句話其實要延伸一下,并不是說之前V100卡不夠快,一定要更快的卡才能滿足用戶的業(yè)務(wù),而是V100太貴了,很多客戶買不起。

英偉達應(yīng)該也是意識到了這個問題,所以來了一個Slogan:“The more you buy, the more you save.”「現(xiàn)在,你只需要十分之一的硬件成本,二十分之一電力消耗就能做同樣的事。The more you buy, the more you save !」黃仁勛說道。

計算力變便宜了,后續(xù)會對行業(yè)有什么影響呢?我們看到,雖然總體A100計算力增強了,但是單機8卡的GPU機器貌似比以前貴了,搭載8卡的DGX要賣到19.9萬美元,極高的價格。這個價格會讓很多腰部以下的互聯(lián)網(wǎng)廠商放棄自建IDC GPU集群,從而選擇上云,因為買幾臺機器就要小1千萬。一家300人左右的互聯(lián)網(wǎng)公司每年的IT成本也就1千萬。所以對于云廠商來講,關(guān)鍵是如何能讓昂貴的單點計算機器的資源更彈性。怎么能滿足客戶彈性的需求,是云廠商后續(xù)要重點關(guān)注的,基于K8S的實現(xiàn)如何做到資源的最大限度利用,是關(guān)鍵。

3 英偉達的野心對行業(yè)影響

雖然GPU已經(jīng)在AI的計算力方面幾乎形成了壟斷,但是2020財年,英偉達的利潤總體出現(xiàn)下滑。這就意味著,單純最底層的芯片級別的技術(shù)演進,很難形成高增長,缺少軟件附加值。另外,新的A100技術(shù)架構(gòu),只有50倍左右的算力提升空間。當計算力的提升到了瓶頸,英偉達又將怎么發(fā)展。

英偉達最新的舉措可以看一些端倪,在框架層面開始做很多文章,比如推出了語音交互框架Jarvis。后續(xù)英偉達一定會向上層的應(yīng)用拓展業(yè)務(wù),這樣就觸碰到了PyTorch、TensorFlow的領(lǐng)地,跟FaceBook和Google展開直接競爭。Google現(xiàn)在也在自己研制TPU芯片用來制衡GPU。后續(xù)的競爭可能不再是框架或者計算力的單點競爭,而是生態(tài)的競爭。

所以,今天只會TensorFlow或PyTorch都是不保險的,未來可能有新的框架進來。亙古不變的是上層的業(yè)務(wù)實現(xiàn)方式,了解CV的流程、ASR的流程、推薦的業(yè)務(wù)流程,這些業(yè)務(wù)的流程短時間內(nèi)不會有大的變化,而且會兼容各種引擎和框架的發(fā)展,學(xué)好這些是安身立命的根本。

PS:本文只是作者自己YY,周末閱讀新聞的感想,權(quán)當消遣。

《新程序員》:云原生和全面數(shù)字化實踐50位技術(shù)專家共同創(chuàng)作,文字、視頻、音頻交互閱讀

總結(jié)

以上是生活随笔為你收集整理的独家解析英伟达最新GPU-A100对AI行业带来的影响的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯,歡迎將生活随笔推薦給好友。