AI新浪潮:截止2022年,全球74%的计算将来自端侧
根據Gartner的報告,今天91%的數據是在中心化的數據存儲中心做計算。但是,截止到2022年,全世界74%的數據將在端側進行分析和計算。
有一種誤解是邊緣計算會取代云計算,相反,邊緣+云計算的結合會是未來的主趨勢,邊緣計算甚至會進一步帶動云計算的發展。把規模的數據計算一定是在云端處理,而與直接數據產生者相關的部分計算會被分配到端。接下來就具體分析下端側計算的一些優勢:
1.數據隱私性
?
個性化推薦等業務越來越被普遍應用到廣大APP中,其本質是對用戶行為數據的收集,并在云端進行統一分析。這種AI服務在給人們帶來便利的同時,也帶來了數據安全問題,很多國家開始出臺法令限制用戶數據的收集。邊緣計算的引入可以允許用戶數據不上傳,只在用戶自己的手機端側進行分析。這樣既能保證數據隱私性,又能同樣滿足個性化推薦等業務需求。
2.時效性
目前大部分AI服務需要采集數據到云端的數據存儲中心進行統一建模,然后將模型部署成Restful服務供終端調用。這種模式因為數據傳輸的帶寬限制以及網絡通信的時延限制,往往會影響服務的時效性。如果數據分析建模等服務發生在端側,就避免了大量的數據傳輸和網絡時延等問題。
3.負載平衡
傳統的AI service完全依賴于云端服務,因為每個終端側的請求有波峰、波谷的差別,在請求波峰階段可能會受限于云端服務側性能,這個時候就需要做一些負載平衡,端側服務就可以很好地解決這個問題。當云端服務能力不足的時候,端側可以做一些彌補。一些極端情況,比如突然斷網,云端服務完全失效,這時候因為端側的模型服務還在,也可以暫時解決一部分AI模型inference的問題。
Edge AI的一些問題:
1. 計算力問題
眾所周知,分布式計算(俗稱云計算)主要解決的就是計算力問題,而將計算任務下發到端側,可能會受限于端側的內存、磁盤大小的問題,導致只有小規模的模型產出。
2.端設備多樣性問題
端側設備各式各樣,比如手機、手表、音箱、汽車。里面使用的操作系統也極為豐富,可能有Anroid、Linux、IOS。在框架層可能是TF或者PyTorch。底層計算芯片也有各種版本,比如英偉達就為不同的終端定制了不同類型的芯片設備,比如為汽車定制的NVDIA Drive Orin。
如何在這么多設備的變量因素之下,找到一條普適性的模型訓練模式,是比較有挑戰的。
?
總結
以上是生活随笔為你收集整理的AI新浪潮:截止2022年,全球74%的计算将来自端侧的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 来自过气科技网红的2020年终总结
- 下一篇: 阿里云计算平台招AI解决方案产品经理