日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 人工智能 > ChatGpt >内容正文

ChatGpt

AI新浪潮:截止2022年,全球74%的计算将来自端侧

發布時間:2025/4/5 ChatGpt 45 豆豆
生活随笔 收集整理的這篇文章主要介紹了 AI新浪潮:截止2022年,全球74%的计算将来自端侧 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

根據Gartner的報告,今天91%的數據是在中心化的數據存儲中心做計算。但是,截止到2022年,全世界74%的數據將在端側進行分析和計算。

有一種誤解是邊緣計算會取代云計算,相反,邊緣+云計算的結合會是未來的主趨勢,邊緣計算甚至會進一步帶動云計算的發展。把規模的數據計算一定是在云端處理,而與直接數據產生者相關的部分計算會被分配到端。接下來就具體分析下端側計算的一些優勢:

1.數據隱私性

?

個性化推薦等業務越來越被普遍應用到廣大APP中,其本質是對用戶行為數據的收集,并在云端進行統一分析。這種AI服務在給人們帶來便利的同時,也帶來了數據安全問題,很多國家開始出臺法令限制用戶數據的收集。邊緣計算的引入可以允許用戶數據不上傳,只在用戶自己的手機端側進行分析。這樣既能保證數據隱私性,又能同樣滿足個性化推薦等業務需求。


2.時效性

目前大部分AI服務需要采集數據到云端的數據存儲中心進行統一建模,然后將模型部署成Restful服務供終端調用。這種模式因為數據傳輸的帶寬限制以及網絡通信的時延限制,往往會影響服務的時效性。如果數據分析建模等服務發生在端側,就避免了大量的數據傳輸和網絡時延等問題。

3.負載平衡

傳統的AI service完全依賴于云端服務,因為每個終端側的請求有波峰、波谷的差別,在請求波峰階段可能會受限于云端服務側性能,這個時候就需要做一些負載平衡,端側服務就可以很好地解決這個問題。當云端服務能力不足的時候,端側可以做一些彌補。一些極端情況,比如突然斷網,云端服務完全失效,這時候因為端側的模型服務還在,也可以暫時解決一部分AI模型inference的問題。


Edge AI的一些問題:


1. 計算力問題

眾所周知,分布式計算(俗稱云計算)主要解決的就是計算力問題,而將計算任務下發到端側,可能會受限于端側的內存、磁盤大小的問題,導致只有小規模的模型產出。

2.端設備多樣性問題

端側設備各式各樣,比如手機、手表、音箱、汽車。里面使用的操作系統也極為豐富,可能有Anroid、Linux、IOS。在框架層可能是TF或者PyTorch。底層計算芯片也有各種版本,比如英偉達就為不同的終端定制了不同類型的芯片設備,比如為汽車定制的NVDIA Drive Orin。

如何在這么多設備的變量因素之下,找到一條普適性的模型訓練模式,是比較有挑戰的。


?

總結

以上是生活随笔為你收集整理的AI新浪潮:截止2022年,全球74%的计算将来自端侧的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。