https://github.com/huaweicloud/ModelArts-Lab/issues/219

本期實戰(zhàn)為圖像分類第三期。本期實戰(zhàn)，本期我們將會以 “VGG16模型” 為例，講解深度學(xué)習(xí)中模型調(diào)參和網(wǎng)絡(luò)優(yōu)化的技巧。

【本期實戰(zhàn)內(nèi)容】

• 圖像分類模型參數(shù)&網(wǎng)絡(luò)調(diào)優(yōu)案例：https://github.com/huaweicloud/ModelArts-Lab/tree/master/notebook/DL_image_hyperparameter_tuning

【加入實戰(zhàn)微信群】

• 歡迎您自由加入本期實戰(zhàn)營的微信群，與 ModelArts 社區(qū)開發(fā)者一起交流
• 請?zhí)砑?“華為云 EI 微信小助手” 后，拉您入群（微信號：hwyeiqyzn）

【留下實戰(zhàn)記錄】

• 請您在本則 Issue 下方跟帖反饋：華為云賬號 +?完成實戰(zhàn)的截圖。
• 反饋信息格式，請參考如下?@sunbo57123?的樣例：

【本期積分規(guī)則】

• 第三期任務(wù)00-03，完成后按照老規(guī)矩獲得1個積分。調(diào)參沒有固定規(guī)則，經(jīng)驗總結(jié)十分重要，除了實驗中進行講解的調(diào)優(yōu)方法，希望各位AI大神能夠?qū)⒆约旱恼{(diào)優(yōu)經(jīng)驗分享出來。網(wǎng)絡(luò)不設(shè)限制，比如 ResNet、ResNet+FPN（ROI IoU 等）、MobileNet 調(diào)優(yōu)等，內(nèi)容隨心您定，調(diào)優(yōu)的方法、思路、實踐過程等等，鼓勵干貨滿滿的原創(chuàng)案例分享。擴展案例的提交形式統(tǒng)一為 ModelArts Notebook 為載體，能夠復(fù)現(xiàn)為核心，提交評分采用社區(qū)commiter 討論的形式，內(nèi)容相似度過高的文章，按照提交時間+能夠有效復(fù)現(xiàn)的形式取第1篇哦

00任務(wù)中：

• 反饋兩次各訓(xùn)練 5個epoch（共10個epoch）后的運行結(jié)果+準確率變化折線圖
• 反饋帶有早停的運行結(jié)果
• 拓展(非必選)：可以嘗試自己定義學(xué)習(xí)率衰減規(guī)律。使用 LearningRateScheduler 方法，自己定義學(xué)習(xí)率衰減。并且將結(jié)果分享，大家共同討論和改進。

01任務(wù)中：

• 任意一個優(yōu)化器的結(jié)果和準確率折線圖（5 epoch）
• 拓展（非必選）：多epoch（epoch>30）在不同優(yōu)化器下的代碼和運行結(jié)果及準確率折線圖

02任務(wù)中：

數(shù)據(jù)增廣案例訓(xùn)練時間較長，為了防止ipynb文件運行時丟失kernel的鏈接，導(dǎo)致無法查看結(jié)果，建議開發(fā)者實踐時將ipynb文件轉(zhuǎn)換為py文件，并在terminal中執(zhí)行。步驟如下：

ipynb文件轉(zhuǎn)換成py文件

轉(zhuǎn)換后得到一個同名的.py文件，由于ipynb中編寫了很多jupyter環(huán)境中支持的特定命令，因此需要將一些特定命令進行處理，包括：

1. 以 ! 開頭的shell命令，使用Python subprocess庫代替 2. %matplotlib inline 聲明，無法在python環(huán)境中運行，直接刪除 3. matplotlib的plot命令，在Terminal中無法直接使用，需要設(shè)定matplotlib.use('Agg')

由于處理過程較為復(fù)雜，我們直接提供了轉(zhuǎn)換好的02_data_augumentation.py

在Terminal中執(zhí)行命令

首先，新建一個terminal：

在terminal中，先更新conda相關(guān)環(huán)境變量，執(zhí)行命令source /opt/conda/etc/profile.d/conda.sh，然后執(zhí)行conda env list命令，查看conda環(huán)境，并切換到Tensorflow環(huán)境（根據(jù)Notebook規(guī)格，環(huán)境名稱可能有所不同）：

執(zhí)行py文件：nohup python 02_data_augumentation.py > data-aug.log &，然后再敲一個回車鍵。這樣，我們用nohup啟動了一個后臺執(zhí)行的進程，并將訓(xùn)練的結(jié)果輸入到data-aug.log文件中，在Terminal中，可以使用tail命令查看日志文件的內(nèi)容，執(zhí)行tail -f data-aug.log：

后臺進程運行結(jié)束后，我們得到data-aug.log和data-aug-plot.png兩個文件

積分所需文件

• data-aug.log文件
• matplot保存的準確率曲線圖data-aug-plot.png

03任務(wù)中：

• 只訓(xùn)練分類層的日志和準確率曲線圖：
• 訓(xùn)練所有參數(shù)的日志和準確率曲線圖：

【手動停止服務(wù)】

• 實驗完成后，請手動停止占用云資源的服務(wù)，如：停止 “開發(fā)環(huán)境” 中所創(chuàng)建的 Notebook 以及 “部署上線”-“在線服務(wù)” 中所部署的在線服務(wù)，以避免因持續(xù)占用云資源導(dǎo)致資源包無謂消耗和欠費發(fā)生。需使用時，再啟動即可。

總結(jié)

以上是生活随笔為你收集整理的【华为云 ModelArts-Lab AI实战营】第三期：图像分类 (III) 模型参数网络调优的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。