根據(jù)Gartner的報(bào)告，今天91%的數(shù)據(jù)是在中心化的數(shù)據(jù)存儲(chǔ)中心做計(jì)算。但是，截止到2022年，全世界74%的數(shù)據(jù)將在端側(cè)進(jìn)行分析和計(jì)算。

有一種誤解是邊緣計(jì)算會(huì)取代云計(jì)算，相反，邊緣+云計(jì)算的結(jié)合會(huì)是未來(lái)的主趨勢(shì)，邊緣計(jì)算甚至?xí)M(jìn)一步帶動(dòng)云計(jì)算的發(fā)展。把規(guī)模的數(shù)據(jù)計(jì)算一定是在云端處理，而與直接數(shù)據(jù)產(chǎn)生者相關(guān)的部分計(jì)算會(huì)被分配到端。接下來(lái)就具體分析下端側(cè)計(jì)算的一些優(yōu)勢(shì)：

1.數(shù)據(jù)隱私性

?

個(gè)性化推薦等業(yè)務(wù)越來(lái)越被普遍應(yīng)用到廣大APP中，其本質(zhì)是對(duì)用戶行為數(shù)據(jù)的收集，并在云端進(jìn)行統(tǒng)一分析。這種AI服務(wù)在給人們帶來(lái)便利的同時(shí)，也帶來(lái)了數(shù)據(jù)安全問(wèn)題，很多國(guó)家開始出臺(tái)法令限制用戶數(shù)據(jù)的收集。邊緣計(jì)算的引入可以允許用戶數(shù)據(jù)不上傳，只在用戶自己的手機(jī)端側(cè)進(jìn)行分析。這樣既能保證數(shù)據(jù)隱私性，又能同樣滿足個(gè)性化推薦等業(yè)務(wù)需求。

2.時(shí)效性

目前大部分AI服務(wù)需要采集數(shù)據(jù)到云端的數(shù)據(jù)存儲(chǔ)中心進(jìn)行統(tǒng)一建模，然后將模型部署成Restful服務(wù)供終端調(diào)用。這種模式因?yàn)閿?shù)據(jù)傳輸?shù)膸捪拗埔约熬W(wǎng)絡(luò)通信的時(shí)延限制，往往會(huì)影響服務(wù)的時(shí)效性。如果數(shù)據(jù)分析建模等服務(wù)發(fā)生在端側(cè)，就避免了大量的數(shù)據(jù)傳輸和網(wǎng)絡(luò)時(shí)延等問(wèn)題。

3.負(fù)載平衡

傳統(tǒng)的AI service完全依賴于云端服務(wù)，因?yàn)槊總€(gè)終端側(cè)的請(qǐng)求有波峰、波谷的差別，在請(qǐng)求波峰階段可能會(huì)受限于云端服務(wù)側(cè)性能，這個(gè)時(shí)候就需要做一些負(fù)載平衡，端側(cè)服務(wù)就可以很好地解決這個(gè)問(wèn)題。當(dāng)云端服務(wù)能力不足的時(shí)候，端側(cè)可以做一些彌補(bǔ)。一些極端情況，比如突然斷網(wǎng)，云端服務(wù)完全失效，這時(shí)候因?yàn)槎藗?cè)的模型服務(wù)還在，也可以暫時(shí)解決一部分AI模型inference的問(wèn)題。

Edge AI的一些問(wèn)題：

1. 計(jì)算力問(wèn)題

眾所周知，分布式計(jì)算（俗稱云計(jì)算）主要解決的就是計(jì)算力問(wèn)題，而將計(jì)算任務(wù)下發(fā)到端側(cè)，可能會(huì)受限于端側(cè)的內(nèi)存、磁盤大小的問(wèn)題，導(dǎo)致只有小規(guī)模的模型產(chǎn)出。

2.端設(shè)備多樣性問(wèn)題

端側(cè)設(shè)備各式各樣，比如手機(jī)、手表、音箱、汽車。里面使用的操作系統(tǒng)也極為豐富，可能有Anroid、Linux、IOS。在框架層可能是TF或者PyTorch。底層計(jì)算芯片也有各種版本，比如英偉達(dá)就為不同的終端定制了不同類型的芯片設(shè)備，比如為汽車定制的NVDIA Drive Orin。

如何在這么多設(shè)備的變量因素之下，找到一條普適性的模型訓(xùn)練模式，是比較有挑戰(zhàn)的。

?

總結(jié)

以上是生活随笔為你收集整理的AI新浪潮：截止2022年，全球74%的计算将来自端侧的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。