12月12日，由深度學(xué)習(xí)技術(shù)及應(yīng)用國家工程實驗室主辦的WAVE SUMMIT+ 2021深度學(xué)習(xí)開發(fā)者峰會在上海召開。此次峰會，最讓開發(fā)者驚艷的是飛槳開源框架v2.2的重磅發(fā)布。百度深度學(xué)習(xí)技術(shù)平臺部高級總監(jiān)馬艷軍與百度AI產(chǎn)品研發(fā)部總監(jiān)忻舟，就飛槳新版本特性與落地部署應(yīng)用做了詳盡解讀，框架核心技術(shù)持續(xù)領(lǐng)先，落地部署降低應(yīng)用門檻，飛槳正在為解決AI落地產(chǎn)業(yè)提供全新的答案。

踐行融合創(chuàng)新，飛槳核心技術(shù)持續(xù)積累與突破

峰會現(xiàn)場，馬艷軍表示，飛槳作為中國首個自主研發(fā)、功能豐富、開源開放的產(chǎn)業(yè)級深度學(xué)習(xí)平臺，核心技術(shù)持續(xù)積累與突破，全新發(fā)布的開源框架2.2版本，涉及深度學(xué)習(xí)開發(fā)、訓(xùn)練、文本任務(wù)極致優(yōu)化、硬件高效適配、低門檻推理部署等多方面創(chuàng)新性技術(shù)，賦能開發(fā)者，為產(chǎn)業(yè)應(yīng)用和前沿探索提供技術(shù)源動力。

開發(fā)方面，飛槳提供豐富的API，支持開發(fā)者便捷、高效地開發(fā)深度學(xué)習(xí)模型。飛槳框架v2.2的API更加豐富、高效并保持良好的兼容性，有針對性地豐富了100多個API，可支持更廣泛模型開發(fā)，尤其針對科學(xué)計算的模型應(yīng)用，增加了傅里葉變換、Jacobian/Hessian/VJP/JVP等一系列API，支持量子計算、生命科學(xué)、計算流體力學(xué)、分子動力學(xué)等應(yīng)用，助力前沿技術(shù)探索。

訓(xùn)練方面，全新發(fā)布端到端自適應(yīng)大規(guī)模分布式訓(xùn)練技術(shù)。針對不同的模型和硬件，抽象成統(tǒng)一的分布式計算視圖和資源視圖，并通過硬件感知切分和映射功能及端到端的代價模型，搜索出最優(yōu)的模型切分和硬件組合策略，將模型參數(shù)、梯度、優(yōu)化器狀態(tài)按照最優(yōu)策略分配到不同的計算卡上，達到節(jié)省存儲、負載均衡、提升訓(xùn)練性能的目的。

基于全新的端到端自適應(yīng)大規(guī)模分布式訓(xùn)練技術(shù)，百度飛槳在鵬城云腦II集群上采用自適應(yīng)優(yōu)化，訓(xùn)練速度達到優(yōu)化前2.1倍。而近期發(fā)布的全球首個知識增強千億大模型鵬城-百度·文心，也是基于端到端自適應(yīng)大規(guī)模分布式訓(xùn)練技術(shù)。

文本任務(wù)方面，從文本處理、訓(xùn)練、解碼到部署進行全面加速。升級對字符串張量的支持，為開發(fā)者提供端到端文本任務(wù)開發(fā)體驗。在預(yù)訓(xùn)練模型方面，針對Transformer Encoder的網(wǎng)絡(luò)結(jié)構(gòu)實現(xiàn)了極致的性能優(yōu)化，并通過自定義算子功能，融合了NVIDIA FasterTransformer的高性能算子。基于這些優(yōu)化，框架針對預(yù)訓(xùn)練模型形成了訓(xùn)推一體全流程開發(fā)體驗，讓部署代碼節(jié)省94%。

硬件接入方面，多層次、低成本的硬件適配方案降低了框架與芯片的適配成本。百度自研Kernel Primitive API、NNAdapter、編譯器CINN（預(yù)發(fā)布）三大優(yōu)化方案，分別對AI算子庫、圖、編譯器后端進行軟硬件結(jié)合的深度融合優(yōu)化，極大降低了硬件適配成本，賦能硬件生態(tài)圈。

持續(xù)降低應(yīng)用門檻，飛槳模型庫、企業(yè)版全新升級

除了飛槳深度學(xué)習(xí)框架技術(shù)的領(lǐng)先發(fā)布，峰會還帶來了飛槳產(chǎn)業(yè)級開源模型庫和企業(yè)版的全新升級。

馬艷軍在會上表示，目前，百度飛槳官方支持的產(chǎn)業(yè)級開源算法模型超過400個，并發(fā)布13個PP系列模型，在精度和性能上達到平衡，將推理部署工具鏈徹底打通。

飛槳產(chǎn)業(yè)應(yīng)用能力全方位升級的同時，飛槳企業(yè)版也在著力提升模型部署能力。會上，忻舟帶來了飛槳企業(yè)版模型部署升級和飛槳EsayDL桌面版的全新發(fā)布。

飛槳企業(yè)版包括EasyDL和BML雙平臺開發(fā)模式，致力于提升AI開發(fā)效率和資源使用效能，目前已經(jīng)成為應(yīng)用和落地最廣泛的AI開發(fā)平臺。此次模型部署的全新升級基于飛槳推理部署工具鏈，與平臺深度融合，打造自動高效的企業(yè)級部署功能。

首先是全自動模型組合壓縮，顯著提升推理性能?；赑addleSlim，根據(jù)不同模型和硬件的特點，設(shè)計了多條全自動組合壓縮流水線，能夠自動選擇最佳壓縮路徑。對常見的模型，精度損失控制在1%下，加速比能達到3-5倍。

其次基于飛槳推理引擎，廣泛適配推理芯片。新版本采用了飛槳推理引擎，廣泛適配推理芯片且性能優(yōu)異。目前，平臺已完成9345種模型芯片的組合的真實測試和調(diào)優(yōu)，可以覆蓋95%的需求場景，相比自行適配節(jié)省97%的開發(fā)時間。

最后是模型服務(wù)化與智能邊緣控制臺，大幅提高部署效率。尤其是全新發(fā)布的智能邊緣控制臺，提供了全可視化的操作界面，使得模型與業(yè)務(wù)集成的效率顯著提升，模型部署時間從天級別縮短至5分鐘。忻舟現(xiàn)場演示了如何5分鐘讓機器狗學(xué)會手勢識別的新技能。

最后，飛槳EasyDL桌面版全新發(fā)布。開發(fā)者不必繁瑣的配置各種環(huán)境，在桌面一鍵極速安裝即可實現(xiàn)本地高效建模，1分鐘安裝完成，15分鐘就可完成模型開發(fā)，本地實現(xiàn)數(shù)據(jù)管理、算力調(diào)度、部署應(yīng)用，讓AI“觸手可得”。

源于產(chǎn)業(yè)實踐的百度飛槳產(chǎn)業(yè)級深度學(xué)習(xí)開源開放平臺，是百度踐行融合創(chuàng)新、降低行業(yè)發(fā)展門檻的AI大生產(chǎn)平臺。飛槳的一代一代迭代更新，更是中國人工智能產(chǎn)業(yè)的一步一步的向上攀登。AI促動中國產(chǎn)業(yè)繁榮，飛槳一直在路上。

總結(jié)

以上是生活随笔為你收集整理的飞桨企业版重磅发布智能边缘控制台 5分钟零代码自动化模型部署的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。