戳藍(lán)字“CSDN云計(jì)算”關(guān)注我們哦！

作者：劉晶晶

針對(duì)用戶需要優(yōu)化傳統(tǒng)云主機(jī)框架卻無(wú)從下手的現(xiàn)實(shí)情況，金山云攜手英特爾打造出了AI as a Service這種全新解決方案，據(jù)說(shuō)能將軟硬件優(yōu)勢(shì)很大程度發(fā)揮出來(lái)，如此“神仙級(jí)解決方案”究竟內(nèi)藏什么玄機(jī)？快來(lái)了解一下！

當(dāng)看到英特爾和金山云聯(lián)合打造了一種“AI as a Service”新解決方案的時(shí)候，阿晶不免吃驚又有點(diǎn)兒小迷糊。

如今我們發(fā)現(xiàn)，云計(jì)算和AI在越來(lái)越多的領(lǐng)域相遇之后，各種“即服務(wù)”絕對(duì)是雨后春筍、層出不窮。為了保障自身在激烈的企業(yè)級(jí)競(jìng)爭(zhēng)中處于優(yōu)勢(shì)地位，大家似乎紛紛尋求可以將AI集成在自身應(yīng)用的產(chǎn)品，簡(jiǎn)單又流行且基于云的AI產(chǎn)品與服務(wù)(AIaaS)新解決方案就這么猝不及防地誕生啦！

“平臺(tái)”與“優(yōu)化”被圈定為關(guān)鍵詞

有一點(diǎn)可以肯定的是，金山云在業(yè)務(wù)體系中早已“配置”了AI方面的技術(shù)團(tuán)隊(duì)，關(guān)于這點(diǎn)，在與金山云計(jì)算研發(fā)總監(jiān)楊峰的交談中也得到了證實(shí)。如果要進(jìn)一步比較“AI as a Service”與其AI 技術(shù)的差異，恐怕就是應(yīng)用層（可以給用戶提供圖像識(shí)別、人臉識(shí)別為代表的應(yīng)用等優(yōu)化服務(wù)）與平臺(tái)層的區(qū)別了，同時(shí)這也成為“AI as a Service”的“特立獨(dú)行”之處。

圖片來(lái)源網(wǎng)絡(luò)

正如楊峰對(duì)阿晶等在場(chǎng)記者所言，對(duì)于“AI as a Service”來(lái)說(shuō)，金山云計(jì)算業(yè)務(wù)方面主要提供底層平臺(tái)的支持，例如云主機(jī)、云服務(wù)器等，這種支持以及優(yōu)化主要集中在平臺(tái)本身，不是用戶操作系統(tǒng)或者應(yīng)用層面的優(yōu)化，例如硬件的更新等。“此外，還會(huì)在此基礎(chǔ)上完成一些解決方案的提供，例如針對(duì)某個(gè)操作系統(tǒng)預(yù)裝一個(gè)應(yīng)用軟件進(jìn)行優(yōu)化等，但這種范圍內(nèi)的支持與優(yōu)化工作并不局限于AI。”

更重要的一點(diǎn)，我覺(jué)得，大部分對(duì)AI 有訴求的企業(yè)不是希望平臺(tái)層有超乎想象的業(yè)務(wù)處理能力，就是寄托在應(yīng)用解決方案的角度被提供更好的選擇，金山云與英特爾這波“AI as a Service”新解決方案正好屬于前者。如今，通過(guò)此類優(yōu)化方案來(lái)突出自身的優(yōu)勢(shì)，并在風(fēng)起云涌的AI浪潮中增加一項(xiàng)“技能”，可謂明智之舉。

聊畢“AI as a Service”的平臺(tái)屬性，據(jù)阿晶進(jìn)一步了解，“AI as a Service”新解決方案的點(diǎn)子其實(shí)主要來(lái)源于一種優(yōu)化思想。

作為密切的合作伙伴，英特爾技術(shù)對(duì)此表示：“從我們的角度出發(fā)，不同的應(yīng)用場(chǎng)景肯定會(huì)出現(xiàn)差異性的需求，但在具體的操作過(guò)程中針對(duì)框架優(yōu)化的問(wèn)題是個(gè)困難之處。簡(jiǎn)單來(lái)說(shuō)‘機(jī)器通常都很強(qiáng)悍，但沒(méi)有經(jīng)過(guò)優(yōu)化的話這些機(jī)器工作起來(lái)的效果可能還是不盡如人意，所以嘗試開發(fā)一套固定的實(shí)例，將可以前期完成的優(yōu)化都預(yù)制到云主機(jī)上，用戶使用無(wú)需重新安裝以及配制，其中的性能就可以達(dá)到幾倍甚至幾十倍的提升。”同時(shí)，在英特爾看來(lái)，單純硬件層面的提升能給性能帶來(lái)一個(gè)數(shù)量級(jí)的提升，但如果能夠結(jié)合硬件和軟件組合進(jìn)行提升，將會(huì)直接帶來(lái)兩個(gè)以上數(shù)量級(jí)的提升。因此，在追求優(yōu)化目標(biāo)的基礎(chǔ)上，基于金山云主機(jī)，增強(qiáng)軟件優(yōu)化，尋求通用性能解決，是英特爾此次嘗試的重要出發(fā)點(diǎn)。

關(guān)于“AI as a Service”新解決方案的源起，其實(shí)早在今年4月，金山云在同英特爾方面交流的過(guò)程中就提到，基礎(chǔ)平臺(tái)具備的前提下，用戶針對(duì)平臺(tái)基礎(chǔ)上的優(yōu)化其實(shí)是比較欠缺的。“如果將英特爾相關(guān)技術(shù)加入平臺(tái)其中，即針對(duì)TensorFlow、Caffe這兩個(gè)軟件框架，使用最新至強(qiáng)平臺(tái)上的AVX-512指令去做軟件優(yōu)化，相比之前有很大的系統(tǒng)集成性，用戶就可以更關(guān)注業(yè)務(wù)層面的邏輯，未來(lái)以這種方式推出的新服務(wù)類型，可以被稱為是AI增強(qiáng)，最終可以給客戶帶來(lái)成本的降低以及效率的提升。”楊峰說(shuō)。

聽過(guò)楊峰的總結(jié)，我認(rèn)為該服務(wù)或者說(shuō)解決方案，可以在本質(zhì)上被認(rèn)同是一種優(yōu)化的、增強(qiáng)型服務(wù)，使用該服務(wù)之后無(wú)需關(guān)注協(xié)議、框架之類的基礎(chǔ)優(yōu)化工作，而是可以做到將企業(yè)精力聚焦到業(yè)務(wù)本身的功能和穩(wěn)定性上，提高效率并有效降低成本。

為何選擇TensorFlow以及Caffe？

群聊中，通過(guò)翻看關(guān)于“AI as a Service”的背景資料，即“基于最新發(fā)布的英特爾第二代至強(qiáng)可擴(kuò)展處理器，金山云在其三代云主機(jī)中安裝了針對(duì)至強(qiáng)可擴(kuò)展處理器優(yōu)化過(guò)的TensorFlow和Caffe，打造了基于英特爾架構(gòu)的AI解決方案，顯著加速AI運(yùn)算過(guò)程，尤其是加速深度學(xué)習(xí)的推理過(guò)程，獲得了在英特爾?至強(qiáng)?可擴(kuò)展處理器上最佳的運(yùn)行性能”的表述，我果斷注意到“TensorFlow和Caffe”等熱詞，或許你和阿晶一樣存在疑問(wèn)：這種神一般的優(yōu)化只限于TensorFlow以及Caffe嗎？

關(guān)于此類問(wèn)題，好伙伴英特爾表示有話要說(shuō)。“我們針對(duì)AI 方面的優(yōu)化，原則上是所有CPU都適用的。具體操作會(huì)在硬件層面加入一個(gè)加速庫(kù)，名為MKL-DNN，這是專門為深度學(xué)習(xí)加速的，而且是開源的。有了底層的硬件，再配齊數(shù)學(xué)加速庫(kù)之后，上面一層就是各種各樣的開源框架，包括TensorFlow和Caffe，當(dāng)然也同時(shí)包括其他的一些目前來(lái)看可能使用率比較低的框架。”

之所以在金山云的云主機(jī)上選擇TensorFlow和Caffe，英特爾表示主要是根據(jù)用戶需求來(lái)選定的，畢竟這兩個(gè)框架在使用率上比較高。“未來(lái)我們的合作服務(wù)中，針對(duì)豐富的客戶反饋和多元化的應(yīng)用場(chǎng)景，當(dāng)然還會(huì)加入更多的開源框架，這是一個(gè)長(zhǎng)期持續(xù)性的過(guò)程，但不變的是我們的最終目標(biāo)就是將平臺(tái)能力更好地釋放出來(lái)，最終實(shí)現(xiàn)強(qiáng)強(qiáng)組合。”

此外，英特爾與金山云合作由來(lái)已久，且英特爾跟金山云的合作是全方面的，還涵蓋金山云的基礎(chǔ)的云平臺(tái)、大數(shù)據(jù)、PaaS平臺(tái)，包括在上面的CDN、視頻云等等。但其實(shí)除了金山云之外，有很多互聯(lián)網(wǎng)公司甚至是其他性質(zhì)的企業(yè)都積極倡導(dǎo)自身具有AI能力。但依照過(guò)往的經(jīng)驗(yàn)來(lái)看，就算是體量很大的企業(yè)也不一定知道框架如何被優(yōu)化來(lái)更好地發(fā)揮功能，所以對(duì)兩家企業(yè)來(lái)講真正滿足用戶需要是關(guān)鍵，對(duì)此金山云方面也表示高度認(rèn)同。如此看來(lái)這套服務(wù)是不針對(duì)具體的企業(yè)性質(zhì)以及體量有明確的指向性了。

關(guān)于未來(lái)，哪些升級(jí)迭代還值得期待？

關(guān)于該服務(wù)的技術(shù)升級(jí)，想必是很多開發(fā)者與企業(yè)著重關(guān)注的，對(duì)此阿晶特別整理了群聊中雙方的表達(dá)，供大家參考，是否有驚喜？

英特爾技術(shù)方面：簡(jiǎn)單來(lái)說(shuō)，英特爾會(huì)繼續(xù)深化與金山云的合作，基于最新發(fā)布的第二代至強(qiáng)可擴(kuò)展處理器，我們會(huì)引入一個(gè)新的指令叫VNNI，來(lái)源于英特爾為深度學(xué)習(xí)專門做的一系列加速指令集-英特爾Deep Learning Boost (DL Boost)。

所謂的VNNI，就是在AI上，除了現(xiàn)在使用的單精度浮點(diǎn)數(shù)這種支持運(yùn)算之外，還會(huì)做8位INT數(shù)據(jù)的運(yùn)算，這一點(diǎn)會(huì)在非常多的深度學(xué)習(xí)的模型上對(duì)模型做一個(gè)轉(zhuǎn)化優(yōu)化。

轉(zhuǎn)化優(yōu)化之后，它的吞吐量會(huì)有直觀效果的提升，例如圖片處理，每秒處理多少?gòu)垐D片會(huì)有非常大的性能提升；再比如說(shuō)用單精度浮點(diǎn)數(shù)，原本每秒只能處理100張，當(dāng)通過(guò)VNNI指令加速之后有可能做到處理200多張甚至是300張，當(dāng)然依照不同的模型會(huì)有不同程度的增強(qiáng)。

同時(shí)，無(wú)論是往后的CPU，抑或明年的Cooper Lake、Ice Lake，VNNI都會(huì)進(jìn)行兼容支持。這也是英特爾堅(jiān)持建立一個(gè)非常龐大的軟件生態(tài)的原因，我們一直向下兼容，保證用戶開發(fā)的程序在新的硬件平臺(tái)上同樣可以運(yùn)行，同時(shí)我們也會(huì)在軟件生態(tài)方面同步優(yōu)化、迭代，為客戶提供更好的計(jì)算能力。

接下來(lái)在Cascade Lake上，通過(guò)金山云這樣一個(gè)緊密的合作伙伴，通過(guò)云主機(jī)的方式，會(huì)參照其他提供應(yīng)用層需求方面，積極配合做很多優(yōu)化，例如Cascade Lake上支持VNNI，客戶使用起來(lái)會(huì)有更高的性價(jià)比表現(xiàn)。

此外，整體的成熟上線也是一個(gè)過(guò)程：第一批先匹配的是Skylake，就是第一代至強(qiáng)可擴(kuò)展處理器；第二代至強(qiáng)可擴(kuò)展處理器也會(huì)隨著整個(gè)金山云的規(guī)模的上線去做相應(yīng)的優(yōu)化匹配等，更重要的一點(diǎn)是客戶需求可以加速升級(jí)過(guò)程。從云平臺(tái)角度來(lái)講，能夠把這個(gè)能力整體釋放出來(lái)，包括穩(wěn)定性、性能等，可以看到還有很多工作要做。

金山云計(jì)算研發(fā)總監(jiān)楊峰：從硬件角度來(lái)說(shuō)，我們持續(xù)跟進(jìn)并引入新硬件；從軟件角度來(lái)說(shuō)，我們要適配這個(gè)硬件，例如Skylake，增加了AVX-512這個(gè)指令集，我們自己的服務(wù)也要進(jìn)行適配，能夠讓客戶看到并使用這個(gè)AVX-512指令集，要把這個(gè)能力釋放給用戶，并有顯著效果。

引用一段IDC的研究資料作為結(jié)尾：據(jù)了解截止到2021年，全球企業(yè)們對(duì)AI系統(tǒng)的支出將保持50.1%的年復(fù)合增長(zhǎng)率，這說(shuō)明企業(yè)對(duì)此類技術(shù)的總支出將會(huì)從2017年的120億美元增加到2021年的576億美元。此外值得注意的一點(diǎn)，這些支出中有很大一部分將用于基于云的AI服務(wù)。結(jié)論很顯然，企業(yè)對(duì)AIaaS產(chǎn)生了需求，而云服務(wù)商也對(duì)此做出了積極回應(yīng)，這也充分說(shuō)明，類似于金山云與英特爾的“強(qiáng)強(qiáng)聯(lián)手”將會(huì)進(jìn)入一個(gè)前所未有的豐富期。

福利

掃描添加小編微信，備注“姓名+公司職位”，加入【云計(jì)算學(xué)習(xí)交流群】，和志同道合的朋友們共同打卡學(xué)習(xí)！

推薦閱讀：

• 一場(chǎng)全能的開發(fā)者大會(huì)，來(lái)自助力開發(fā)者成功進(jìn)階的華為云

• 抖音微博等短視頻千萬(wàn)級(jí)高可用、高并發(fā)架構(gòu)如何設(shè)計(jì)？

• 20大5G關(guān)鍵技術(shù)

• Fast.ai：從零開始學(xué)深度學(xué)習(xí) | 資源帖

• 10個(gè)簡(jiǎn)單小竅門帶你提高Python數(shù)據(jù)分析速度（附代碼）

• 程序員爬取 3 萬(wàn)條評(píng)論，《長(zhǎng)安十二時(shí)辰》槽點(diǎn)大揭秘！

• 暗網(wǎng)竟成比特幣最大用戶? 上半年5.15億美元被用于非法活動(dòng)
  

  
  真香，朕在看了！

總結(jié)

以上是生活随笔為你收集整理的群聊金山云与英特尔的“AI as a Service”，你都get到了什么？的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。