DL之CNN優(yōu)化技術(shù)：學(xué)習(xí)卷積神經(jīng)網(wǎng)絡(luò)CNN的優(yōu)化、調(diào)參實(shí)踐、從代碼深刻認(rèn)知CNN架構(gòu)之練習(xí)技巧

?

?

?

?

目錄

卷積神經(jīng)網(wǎng)絡(luò)CNN調(diào)參學(xué)習(xí)實(shí)踐

練習(xí)技巧

1、練習(xí)攻略一

2、VGG16練習(xí)攻略二

---

?

?

?

?

?

?

卷積神經(jīng)網(wǎng)絡(luò)CNN調(diào)參學(xué)習(xí)實(shí)踐

DL之CNN：利用卷積神經(jīng)網(wǎng)絡(luò)算法(2→2,基于Keras的API-Functional)利用MNIST(手寫數(shù)字圖片識(shí)別)數(shù)據(jù)集實(shí)現(xiàn)多分類預(yù)測
DL之CNN：利用卷積神經(jīng)網(wǎng)絡(luò)算法(2→2,基于Keras的API-Sequential)利用MNIST(手寫數(shù)字圖片識(shí)別)數(shù)據(jù)集實(shí)現(xiàn)多分類預(yù)測

?

?

?

?

?

?

?

?

?

練習(xí)技巧

1、練習(xí)攻略一

訓(xùn)練更多的epochs，看看這會(huì)不會(huì)提升分類的準(zhǔn)確率？

嘗試把一些層的把激活函數(shù)，改成sigmoid。

你能找到一種簡單的方法來改變所有層的激活函數(shù)嗎？

畫出最大池化層的輸出，來替代卷積層的輸出。

在卷積層中用stride=2的卷積來替代2X2 max-pooling，分類精度有差異嗎？如果你一次又一次地優(yōu)化它呢？差異是任意變化的，你又要如何去衡量這個(gè)差異？在卷積層中用max-pooling比較stride有什么優(yōu)缺點(diǎn)？

改變層的參數(shù)，如內(nèi)核、深度、大小等。使用的實(shí)踐和分類精度有什么差異？

增加或移除一些卷積層或全連接層。

你能在保持結(jié)果好的同時(shí)設(shè)計(jì)出更簡單的網(wǎng)絡(luò)嗎？

修改函數(shù)式模型，增加另一個(gè)卷積層與全連接層之前的卷積層相連。

修改函數(shù)式模型，讓它同時(shí)輸出預(yù)測類別的獨(dú)熱編碼數(shù)組和整數(shù)形式的結(jié)果，這樣我們之后就不需要再使用numpy.argmax()。

不看源碼，自己重寫程序。

向朋友解釋程序是如何工作的。

?

2、VGG16練習(xí)攻略二

• 嘗試使用VGG16模型的其它層來作為傳輸層。它如何影響訓(xùn)練和分類的準(zhǔn)確性？
• 改變我們添加的新的分類層。你能通過增加或減少全連接層的節(jié)點(diǎn)數(shù)量來提高分類精度嗎？
• 如果你在新的分類器中移除隨機(jī)失活層會(huì)發(fā)生什么？
• 改變遷移學(xué)習(xí)和微調(diào)時(shí)的學(xué)習(xí)率。
• 嘗試微調(diào)整個(gè)VGG16模型。它如何影響訓(xùn)練和測試集的分類精度？為什么?
• 試著從一開始就進(jìn)行微調(diào)，這樣新的分類層就會(huì)和VGG16模型的所有卷積層一起開始訓(xùn)練。您可能需要降低優(yōu)化器的學(xué)習(xí)速度。
• 給測試集和訓(xùn)練集添加一些圖像。這樣能使性能提升嗎？
• 嘗試刪除一些刀和湯匙的圖像，使所有類別的圖像數(shù)目相等。這是否改善了混淆矩陣中的數(shù)字？
• Use another dataset.
• 使用另一個(gè)數(shù)據(jù)集。
• 使用Keras中另一個(gè)預(yù)訓(xùn)練模型。
• 向朋友解釋程序如何工作。

?

?

?

?

?

?

?

?

總結(jié)

以上是生活随笔為你收集整理的DL之CNN优化技术：学习卷积神经网络CNN的优化、实践经验(练习调参)、从代码深刻认知CNN架构之练习技巧的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。