前言

好的模型結(jié)構(gòu)是深度學習成功的關鍵因素之一，不僅是非常重要的學術(shù)研究方向，在工業(yè)界實踐中也是模型是否能上線的關鍵。對各類底層深度學習模型設計和優(yōu)化技術(shù)理解的深度是決定我們能否在深度學習項目中游刃有余的關鍵，模型壓縮與優(yōu)化是專門針對模型進行精簡的技術(shù)，這是模型能夠在各類嵌入式平臺使用的關鍵技術(shù)，包括緊湊模型設計，模型剪枝，模型量化，模型蒸餾，自動化模型設計等內(nèi)容。

當前許多成熟的框架都支持進行模型的壓縮優(yōu)化，比如Tensorflow、TensorRT，內(nèi)置了經(jīng)典的模型壓縮優(yōu)化方法。

為了幫助大家系統(tǒng)性地學習深度學習模型優(yōu)化的相關內(nèi)容，我們推出了《深度學習之模型優(yōu)化》系列課程，目前已完成約7個小時的理論課+4個小時的實踐課（還在更新中），可以參考介紹：

【視頻課】超10小時模型優(yōu)化技術(shù)，模型剪枝+模型量化+知識蒸餾理論與實踐！

但是因為咱們有些學習者只對其中的某一項技術(shù)感興趣，比如模型剪枝或者模型量化，畢竟完整的模型優(yōu)化相關的內(nèi)容非常多，隨著后面內(nèi)容繼續(xù)更新，想要完全消化吸收也是很有難度的。

因此，應咱們一些朋友的要求，我們將《深度學習之模型剪枝》與《深度學習之模型量化》的內(nèi)容單獨從優(yōu)化專欄中拆分出來，下面我們分別對這兩部分做一個介紹。

模型剪枝專欄

模型剪枝課程專欄內(nèi)容包括模型剪枝的經(jīng)典算法理論與實踐，目前一期已經(jīng)基本更新完畢，約4個小時，涵蓋了模型剪枝基礎，非結(jié)構(gòu)化模型剪枝，結(jié)構(gòu)化模型剪枝，以及相關的實踐，下面是各部分的簡單介紹。

(1) 模型剪枝基礎，包括模型剪枝的基本概念，模型的冗余性分析，約25分鐘【本部分內(nèi)容可以免費收聽】。

(2) 非結(jié)構(gòu)化模型剪枝（基礎篇），包括基于幅度的連接權(quán)重剪枝框架及其改進，約25分鐘【本部分內(nèi)容可以免費收聽】。

(3) 結(jié)構(gòu)化模型剪枝，包括幅度篇、稀疏權(quán)重篇、稀疏因子篇、重建篇，詳細介紹了當前各種主流的結(jié)構(gòu)化模型剪枝技術(shù)，一共約110分鐘。

(4) 結(jié)構(gòu)化模型剪枝實踐，包括基準模型訓練以及基于稀疏約束與縮放因子的結(jié)構(gòu)化剪枝實踐，約60分鐘。

課程試聽以及訂閱，后續(xù)內(nèi)容的更新，請掃碼下面的海報，查看詳細目錄：

模型量化專欄

模型量化課程專欄內(nèi)容包括模型量化的經(jīng)典算法理論與實踐，目前一期已經(jīng)基本更新完畢，約4個小時，涵蓋了模型量化基礎，1bit模型量化，8bit模型量化，混合量化，以及相關的實踐，下面是各部分的簡單介紹。

下圖是已有課程的大綱腦圖：

下面簡單了解一下各部分的內(nèi)容：

(1) 模型量化基礎，介紹模型量化方法的分類，模型量化的優(yōu)勢，約20分鐘，本部分內(nèi)容可以免費收聽。

(2)?2值模型量化，包括基礎篇、重建篇，詳細介紹了當前主流的2值網(wǎng)絡，約50分鐘。

(3) 8bit模型量化，介紹的內(nèi)容包括基于KL散度的對稱量化、非對稱的訓練時與訓練后量化框架，時長約45分鐘。

(4) 混合模型量化，介紹了基于不同位寬的激活值、權(quán)重值、梯度值的量化訓練框架，約30分鐘。

(5) 8bit模型量化實踐，包括校準表生成與模型量化，ncnn模型推理，約90分鐘。

課程試聽以及訂閱，后續(xù)內(nèi)容的更新，請掃碼下面的海報，查看詳細目錄：

課程

當前這兩門課程的定價為149，周一恢復價格為199，請及時訂閱。

本課程講師為言有三，講師簡介如下：

龍鵬，筆名言有三，技術(shù)社區(qū)《有三AI》創(chuàng)始人。先后就讀于華中科技大學(2008-2012)，中國科學院半導體研究所神經(jīng)網(wǎng)絡實驗室(2012-2015)，先后就職于奇虎360人工智能研究院(2015.7-2017.5)，陌陌科技深度學習實驗室(2017.5-2019.3)，深度學習算法專家，阿里云MVP，華為云MVP。

擁有超過7年的計算機視覺從業(yè)經(jīng)驗，擁有豐富的傳統(tǒng)圖像算法和深度學習計算機視覺項目經(jīng)驗，著有書籍《深度學習之圖像識別：核心技術(shù)與案例實戰(zhàn)》(機械工業(yè)出版社2019.4)，《深度學習之模型設計：核心算法與案例實踐》(電子工業(yè)出版社2020.6)，《深度學習之人臉圖像處理：核心算法與案例實戰(zhàn)》(機械工業(yè)出版社2020.7)，《深度學習之攝影圖像處理：核心算法與案例精粹》(人民郵電出版社2021.4)，擁有10余項發(fā)明技術(shù)專利與學術(shù)論文。

擅長領域：Caffe，Tensorflow，Pytorch等主流深度學習平臺。神經(jīng)網(wǎng)絡與深度學習理論，深度學習模型設計與優(yōu)化，計算機視覺的基礎領域，AI美學，2D與3D人臉算法，生成對抗網(wǎng)絡GAN等領域。

本課程是模型優(yōu)化課程的其中一部分，屬于有三AI整個課程體系中的高階課程，需要大家已經(jīng)能夠熟練使用深度學習框架與基礎模型，建議與另外3門課程配合使用，包括《深度學習之模型分析》，《深度學習之模型設計》，《深度學習之模型部署》，詳細介紹請查看：

【視頻課】快速掌握5大模型部署框架(NCNN+MNN+Tengine+TensortRT+微信小程序)！

【視頻課】先搞懂你用的模型，深度學習模型分析課程來了！

【視頻課】超30個小時模型設計理論，4大Pytorch案例實戰(zhàn)與安卓部署，長期更新中

如果想要一次性獲取有三AI平臺所有模型相關的課，建議直接加入有三AI-CV秋季劃模型算法組，不僅有課程，還有有三的一對一答疑，書籍贈送以及知識星球贈送，可參考介紹如下：

【CV秋季劃】模型算法與落地很重要，如何循序漸進地學習好（2022年言有三一對一輔導）？

往期相關

• 【視頻課】超全深度學習路線圖，有三AI所有免費與付費的視頻課程內(nèi)容匯總！
  

總結(jié)

以上是生活随笔為你收集整理的【视频课】模型优化拆分！分别学习模型剪枝与模型量化理论与实践的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。