阿里云VGN5i虚拟化GPU服务器价格更低的GPU计算服务
阿里云推出虛擬化GPU VGN5i實(shí)例,適用于云游戲、VR/AR、AI推理和DL教學(xué)等輕量級(jí)GPU計(jì)算場(chǎng)景,更細(xì)粒度的GPU計(jì)算服務(wù),阿里云百科網(wǎng)分享:
什么是虛擬化GPU服務(wù)?
虛擬化GPU服務(wù)是一種彈性GPU計(jì)算服務(wù),用戶可以根據(jù)業(yè)務(wù)需求選擇比一顆物理GPU更小的計(jì)算資源來部署自己的業(yè)務(wù)。簡(jiǎn)單來說,虛擬GPU計(jì)算服務(wù)成本更低,價(jià)格更便宜。關(guān)于VGN5i實(shí)例可以參考官方文檔:阿里云實(shí)例規(guī)格族匯總之輕量級(jí)GPU計(jì)算型實(shí)例規(guī)格族vgn5i官方詳解,包括vgn5i實(shí)例的GPU、使用場(chǎng)景等詳細(xì)信息。
虛擬化GPU服務(wù)和常規(guī)GPU計(jì)算有什么區(qū)別?
| CPU加速器呈現(xiàn) | 通過設(shè)備直通方式提供物理GPU加速器 | 通過GPU虛擬化方式提供虛擬GPU加速器 |
| 運(yùn)行穩(wěn)定性 | 僅支持作業(yè)離線遷移 | 支持作業(yè)在線遷移 |
| 計(jì)算業(yè)務(wù)場(chǎng)景 | 重負(fù)載GPU加速計(jì)算/深度學(xué)習(xí)訓(xùn)練與推理計(jì)算/HPC計(jì)算/重載圖形計(jì)算 | 輕負(fù)載GPU計(jì)算/輕負(fù)載的深度學(xué)習(xí)推理計(jì)算/深度學(xué)習(xí)教學(xué)場(chǎng)景/云游戲與VR/AR場(chǎng)景 |
| 使用與管理 | 彈性計(jì)算服務(wù)實(shí)例/業(yè)務(wù)擴(kuò)展以單顆物理GPU資源方式增加 | 彈性計(jì)算服務(wù)實(shí)例/業(yè)務(wù)擴(kuò)展以更小粒度GPU資源方式增加(例如:1/8或1/4顆Tesla P4的資源) |
VGN5i虛擬化GPU實(shí)例應(yīng)用場(chǎng)景
圖形與AI計(jì)算場(chǎng)景全覆蓋,虛擬化GPU服務(wù)是通過GPU虛擬化技術(shù)將物理GPU資源進(jìn)行切分,虛擬化的GPU依然具有物理GPU的所有計(jì)算特性。用戶可以使用虛擬化GPU實(shí)例搭建自己的AI推理計(jì)算業(yè)務(wù),云端圖形工作站或者游戲業(yè)務(wù):
- 圖形計(jì)算
單顆物理GPU的計(jì)算能力越來越強(qiáng),虛擬桌面,圖形設(shè)計(jì)以及云游戲和VR/AR應(yīng)用則在部分場(chǎng)景下需要小粒度的GPU計(jì)算資源。
云游戲和VR/AR應(yīng)用在批量部署時(shí)使用虛擬化GPU實(shí)例,成本優(yōu)勢(shì)也將極為明顯。
- 深度學(xué)習(xí)計(jì)算
在深度學(xué)習(xí)的訓(xùn)練計(jì)算場(chǎng)景中,雖然對(duì)單顆GPU的性能要求與日俱增,但在諸多深度學(xué)習(xí)推理計(jì)算場(chǎng)景中,則需要小粒度的GPU計(jì)算資源。
在AI應(yīng)用普惠化的背景下,小粒度的虛擬化GPU實(shí)例更加貼合用戶業(yè)務(wù)場(chǎng)景,幫助用戶降低業(yè)務(wù)支出。
- 云游戲
隨著5G移動(dòng)通信業(yè)務(wù)的快速展開,云游戲發(fā)展最大的阻礙帶寬和延時(shí)得以消除,基于云端計(jì)算的云游戲有著諸多優(yōu)勢(shì)。例如:使用相同配置的虛擬化GPU實(shí)例,用戶的游戲運(yùn)行基礎(chǔ)環(huán)境變得統(tǒng)一可控,更有利于游戲開發(fā)團(tuán)隊(duì)提供更多高質(zhì)量的圖形游戲給游戲用戶而不必?fù)?dān)心游戲用戶的游戲機(jī)配置和性能不匹配。 - VR/AR
5G移動(dòng)通信帶來的另一個(gè)機(jī)會(huì)是VR/AR,基于云端GPU加速的VR/AR應(yīng)用也將不再依賴昂貴的專用終端,推廣起來也變得更加容易,用戶僅需要基于手持移動(dòng)設(shè)備或者家中的電視即可實(shí)現(xiàn)VR/AR應(yīng)用。 - AI推理
隨著AI技術(shù)的普及,基于AI技術(shù)的互聯(lián)網(wǎng)應(yīng)用也變得更加普遍,而這些應(yīng)用更多使用輕量級(jí)的AI算法模型,且更加依賴于基于容器的彈性部署,小顆粒的虛擬化GPU實(shí)例則更加適合這樣的計(jì)算場(chǎng)景。 - DL教學(xué)
AI技術(shù)與傳統(tǒng)產(chǎn)業(yè)的結(jié)合變得越來越深入,AI技術(shù)也成為了國(guó)家戰(zhàn)略,培養(yǎng)更多的AI人才也變成了必須。高等院校和領(lǐng)先的AI培訓(xùn)機(jī)構(gòu)也越來越多依賴于云端GPU實(shí)例作為教學(xué)實(shí)驗(yàn)資源。小顆粒的虛擬化GPU實(shí)例則具有更好的成本優(yōu)勢(shì)且可以使用鏡像方式批量部署,更加便利搭建深度學(xué)習(xí)教學(xué)實(shí)驗(yàn)環(huán)境。
虛擬化GPU計(jì)算的優(yōu)勢(shì)
在互聯(lián)網(wǎng)業(yè)務(wù)中,批量部署成本和快速彈性伸縮是用戶的主要關(guān)注點(diǎn)。批量部署的成本優(yōu)勢(shì)和快速彈性伸縮可以幫助用戶自如應(yīng)對(duì)業(yè)務(wù)變化,提高業(yè)務(wù)效率和減少業(yè)務(wù)支出。
- 批量部署成本
在諸多圖形計(jì)算和AI推理計(jì)算的場(chǎng)景中,用戶通常并不要求單GPU實(shí)例的計(jì)算性能十分強(qiáng)大,而是更加關(guān)注業(yè)務(wù)在批量部署中的成本。小粒度的虛擬化GPU實(shí)例則更加合適這些場(chǎng)景,很好的平衡用戶業(yè)務(wù)在批量部署中的成本需求。 - 快速彈性伸縮
擁有了小粒度的虛擬化GPU實(shí)例,用戶不必再為了匹配較強(qiáng)的物理GPU資源而將服務(wù)部署成為復(fù)雜的胖服務(wù)節(jié)點(diǎn),而是可以基于容器方式將有GPU計(jì)算需求的服務(wù)都解耦部署在不同的虛擬化GPU實(shí)例節(jié)點(diǎn)上。這樣部署的瘦服務(wù)節(jié)點(diǎn)更加有利于快速彈性伸縮,在業(yè)務(wù)的任何時(shí)刻都可以應(yīng)對(duì)自如,提高業(yè)務(wù)運(yùn)維效率。 - 提高運(yùn)維效率
使用小顆粒的虛擬化GPU實(shí)例進(jìn)行瘦服務(wù)節(jié)點(diǎn)部署,使得服務(wù)環(huán)境配置和服務(wù)接口變得簡(jiǎn)單,使用不同的鏡像即可部署大規(guī)模的AI應(yīng)用而無需部署復(fù)雜的胖節(jié)點(diǎn),提供運(yùn)維效率,降低時(shí)間風(fēng)險(xiǎn)和成本。
總結(jié)
以上是生活随笔為你收集整理的阿里云VGN5i虚拟化GPU服务器价格更低的GPU计算服务的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Web MVC Rest 处理流程分析
- 下一篇: pytorch实现性别检测