新栏目上线|我是戴小乐-集美貌与才华于一身~
開(kāi)個(gè)新欄目
兩分鐘脫口秀
《我是戴小樂(lè)-集美貌與才華于一身》
服務(wù)器打游戲會(huì)更爽嗎?
關(guān)注“戴爾科技集團(tuán)”視頻號(hào),觀(guān)看視頻
戴爾科技集團(tuán)
「 戴小樂(lè)聊IT 」正式和大家見(jiàn)面啦!從今天開(kāi)始我們每周一期和大家來(lái)一場(chǎng)IT TALK SHOW~保你有趣、有料、有收獲😊今天,我們就來(lái)聊個(gè)好玩兒的——服務(wù)器能不能用來(lái)打游戲?點(diǎn)擊視頻👆集美貌與才華于一身的戴小樂(lè)為您解答
視頻號(hào)
如果你喜歡我,下期繼續(xù)聽(tīng)我嘮嘮~
正如服務(wù)器是因其“用途”
而成為了服務(wù)器
跑游戲是可以
但就像趕鴨子上轎——到處飛
并不能給游戲性能
帶來(lái)任何提升
話(huà)說(shuō)回來(lái)
即是在服務(wù)器里
也有很多門(mén)道
如果選錯(cuò)了類(lèi)型
跑特定企業(yè)級(jí)應(yīng)用
依然不到發(fā)揮
比如跑AI就得用
專(zhuān)門(mén)的服務(wù)器
下面我們就來(lái)聊聊
跑AI需要怎樣的服務(wù)器
企業(yè)邁向AI的擔(dān)憂(yōu)
根據(jù)Gartner《全球IT行業(yè)2020年預(yù)測(cè)》:
雖然只有35%的受訪(fǎng)者表示他們已經(jīng)部署了人工智能(比如NLP,ML,圖形化技術(shù)等),但仍有52%的受訪(fǎng)者表示,他們將在接下來(lái)的12個(gè)月內(nèi)進(jìn)行部署。
同時(shí),IDC在2020年10月發(fā)布的《新興技術(shù)和趨勢(shì)的影響:人工智能》白皮書(shū)也顯示:
“截至2025年,90%的應(yīng)用程序預(yù)計(jì)將在5年內(nèi)使用人工智能技術(shù),然而,與此同時(shí),卻只有不到15%的組織正在活躍地使用人工智能技術(shù)?!?/p>
這種前后不一致的調(diào)查數(shù)據(jù)表明,企業(yè)在向AI解決方案的過(guò)渡中仍然具有著很大的挑戰(zhàn)。
想解決問(wèn)題,就要抓住關(guān)鍵,那么,企業(yè)在邁向AI解決方案時(shí)的難點(diǎn)在哪里呢?
關(guān)鍵在于AI人工智能算法對(duì)硬件架構(gòu)有著獨(dú)特的要求。
深度學(xué)習(xí)
理想的深度學(xué)習(xí)解決方案依賴(lài)GPU來(lái)開(kāi)展最大化的并行處理,由高性能CPU來(lái)管理分發(fā)工作,并使用本地存儲(chǔ)作為暫存空間。
機(jī)器學(xué)習(xí)
基于CPU的機(jī)器學(xué)習(xí)技術(shù)依賴(lài)于眾多包含大量計(jì)算內(nèi)核和大內(nèi)存容量的服務(wù)器。
流分析
使用Spark內(nèi)存處理技術(shù)來(lái)進(jìn)行流分析,需要最高的CPU性能和大內(nèi)存容量,以便規(guī)避本地存儲(chǔ)的瓶頸。
推理
推理功能對(duì)CPU、本地存儲(chǔ)和吞吐量提出了極致的要求,以便在數(shù)據(jù)被捕獲時(shí),將復(fù)雜的預(yù)測(cè)模型實(shí)時(shí)應(yīng)用于大量數(shù)據(jù)。
其實(shí),系統(tǒng)工作時(shí),AI工作負(fù)載的數(shù)據(jù)處理是一個(gè)循環(huán)的過(guò)程,它包含著數(shù)百萬(wàn)個(gè)不那么復(fù)雜的計(jì)算,同時(shí)也需要進(jìn)行組織并行操作和快速移動(dòng)數(shù)據(jù),而數(shù)據(jù)通過(guò)硬件系統(tǒng)及其組件的速度越快,就可以處理得越快。
此外,服務(wù)器中的每個(gè)組件(CPU、GPU、內(nèi)存、存儲(chǔ))也必須保持和其它組件相近的速度來(lái)執(zhí)行任務(wù),這樣才能消除瓶頸,提升處理的速度。
這就是為什么對(duì)于AI工作負(fù)載來(lái)說(shuō),最重要的一個(gè)因素是并行I/O吞吐量。因?yàn)锳I工作負(fù)載的速度只能與系統(tǒng)中最慢的組件的速度一樣快,所以?xún)?yōu)化服務(wù)器中的組件就顯得非常重要,比如,汽車(chē)制造就是一個(gè)很好的例子。
企業(yè)想要造一輛汽車(chē),就必須有發(fā)動(dòng)機(jī)、底盤(pán)、懸架、車(chē)身等部件,而這些部件都是需要時(shí)間完成的。那么如果想組裝完成一輛汽車(chē),除非這些組件全部完成生產(chǎn),否則是無(wú)法進(jìn)行的。
所以,其實(shí)完成一輛汽車(chē)生產(chǎn)的訂單時(shí)間,主要取決于其中耗時(shí)最長(zhǎng)的組件生產(chǎn)時(shí)間。
而戴爾易安信PowerEdge XE8545,通過(guò)結(jié)合數(shù)據(jù)處理中的全部組件,最大程度上縮短了“汽車(chē)生產(chǎn)中耗時(shí)最長(zhǎng)組件的時(shí)間”,充分提高了系統(tǒng)的工作效率,實(shí)現(xiàn)了在數(shù)據(jù)流和計(jì)算可能性方面的突破,從而在競(jìng)品中脫穎而出。
人工智能基礎(chǔ)架構(gòu)的未來(lái)
戴爾科技致力于為客戶(hù)提供滿(mǎn)足各種需求的AI和ML解決方案。最新推出的PowerEdge XE8545就是一款人工智能工作負(fù)載的強(qiáng)大動(dòng)力引擎。
這是一款為優(yōu)化最新行業(yè)技術(shù)而打造的2路4U系統(tǒng),由人工智能和數(shù)據(jù)分析驅(qū)動(dòng)的、最新的高性能計(jì)算就緒解決方案,使用時(shí),它能讓用戶(hù)輕松地在一個(gè)系統(tǒng)上運(yùn)行人工智能、分析和高級(jí)計(jì)算等工作負(fù)載,同時(shí)可對(duì)企業(yè)的計(jì)算性能進(jìn)行大幅加速。
PowerEdge XE8545適用于開(kāi)發(fā)、訓(xùn)練和部署先進(jìn)的機(jī)器學(xué)習(xí)模型,為復(fù)雜的高性能計(jì)算工作負(fù)載加速,或者托管加速的虛擬化服務(wù)。
1 優(yōu)化的CPU和GPU性能
XE8545使用具備最多核心數(shù)量的第3代AMD EPYC? Milan處理器,以及最高功率的NVIDIA A100,充分滿(mǎn)足客戶(hù)在數(shù)據(jù)處理過(guò)程中對(duì)于大容量和高性能的需求。
①XE8545將新一代AMD EPYC處理器的最多核心數(shù)量(128)與當(dāng)今可獲取的最高GPU內(nèi)存和帶寬相結(jié)合,突破了AI計(jì)算的邊界。
②XE8545使用一組靈活的虛擬化選項(xiàng)來(lái)托管多租戶(hù)環(huán)境:NVIDIA的vGPU軟件及新的多實(shí)例GPU (MIG) 功能。每個(gè)A100 GPU可劃分給多達(dá)7個(gè)實(shí)例,從而提供7倍于V100的性能,充分將利用率最大化。
③XE8545可選擇強(qiáng)勁的40GB/400W GPU或者具有空前高性能的80GB/500W GPU,同時(shí)保持高效風(fēng)冷的 (35°C/25°C)數(shù)據(jù)中心環(huán)境。
舉例來(lái)說(shuō),盡管XE8545已經(jīng)將ResNet50圖像分類(lèi)訓(xùn)練到了最高質(zhì)量的精度,但花費(fèi)的時(shí)間卻還不到上一代PowerEdge系統(tǒng)的一半。
▲MXNet Training Performance in Minutes (Time to Train, lower is better)
2 加快I/O吞吐量
XE8545通過(guò)結(jié)合其全部組件(包括NVLink、PCIe Gen 4.0和NVMe SSD),實(shí)現(xiàn)了在數(shù)據(jù)流和計(jì)算可能性方面的突破,因而可以在競(jìng)品中脫穎而出。
1.相比當(dāng)今的加速器,XE8545實(shí)現(xiàn)了 6-7倍的機(jī)器學(xué)習(xí)性能 (2倍的HPC性能) :支持PCIe Gen 4 A100 SXM4 GPU,并通過(guò)低延遲無(wú)交換機(jī)設(shè)計(jì)提供最高的對(duì)等帶寬 (600GB/秒) 。
2.提升機(jī)器學(xué)習(xí)訓(xùn)練。通過(guò)稀疏矩陣的乘法運(yùn)算,XE8545實(shí)現(xiàn)了20倍的性能增進(jìn),并提供了比前代產(chǎn)品高出2倍的600GB/秒GPU-GPU通信帶寬。
3 簡(jiǎn)化管理
XE8545通過(guò)提供OpenManage全棧管理功能、標(biāo)準(zhǔn)深度機(jī)架以及空氣冷卻能力,簡(jiǎn)化了數(shù)據(jù)中心的運(yùn)營(yíng)。
①XE8545全面兼容iDRAC和Open Management Enterprise (OME)。因此,在使用過(guò)程中,企業(yè)可以通過(guò)集成Open Manage來(lái)實(shí)施、監(jiān)控和維護(hù)數(shù)據(jù)中心。
②通過(guò)標(biāo)準(zhǔn)深度機(jī)架和空氣冷卻 (35°C)機(jī)箱,XE8545支持企業(yè)隨時(shí)將創(chuàng)新技術(shù)集成到數(shù)據(jù)中心,避免了高昂成本的產(chǎn)生。
4 通過(guò)集成的安全特性保護(hù)企業(yè)的數(shù)據(jù)中心
每臺(tái)PowerEdge服務(wù)器均具備高網(wǎng)絡(luò)彈性的架構(gòu),從而將安全性深入集成到從設(shè)計(jì)到退役生命周期的每一個(gè)階段。
①PowerEdge可以強(qiáng)化安全性,支持AMD Secure Memory Encryption (SME) 和 Secure Encrypted Virtualization (SEV)。
②PowerEdge服務(wù)器可以使用戶(hù)在安全的平臺(tái)上運(yùn)行工作負(fù)載,支持加密受信任啟動(dòng)和硅信任根。
③PowerEdge服務(wù)器可以通過(guò)數(shù)字簽名的固件包來(lái)保持服務(wù)器固件的安全。
④通過(guò)偏移偵測(cè)和系統(tǒng)鎖定,PowerEdge服務(wù)器可偵測(cè)和糾正未經(jīng)授權(quán)的或惡意的更改。
⑤通過(guò)系統(tǒng)擦除功能,PowerEdge服務(wù)器可以安全快速地從存儲(chǔ)介質(zhì)擦除所有數(shù)據(jù),包括HDD、SSD和系統(tǒng)內(nèi)存。
結(jié)語(yǔ)
XE8545是強(qiáng)大的PowerEdge GPU支持服務(wù)器,它可用于機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、高性能計(jì)算和GPU虛擬化。使用時(shí),無(wú)需對(duì)其數(shù)據(jù)中心進(jìn)行重大更改,它為那些尋找最新加速器技術(shù)的客戶(hù)提供了絕佳的解決方案。
PowerEdge服務(wù)器代表著人工智能基礎(chǔ)架構(gòu)的未來(lái),它充分發(fā)揮了硬件組件在所有方面的毫無(wú)妥協(xié)的潛力。
尊敬的讀者
戴爾盲盒專(zhuān)場(chǎng),盛大開(kāi)啟!
從家用、設(shè)計(jì)到商務(wù)辦公
多款產(chǎn)品一應(yīng)俱全
超值補(bǔ)貼唾手可得
先揭曉,再支付
百抽百中
快來(lái)掃描下方二維碼
或點(diǎn)擊文末閱讀原文
速速參與活動(dòng)
👇👇👇
總結(jié)
以上是生活随笔為你收集整理的新栏目上线|我是戴小乐-集美貌与才华于一身~的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 印度软件和中国软件工程师_如何成为印度的
- 下一篇: 程序员修炼内功