【深度学习】一文弄懂CNN及图像识别(Python)
一、卷積神經網絡簡介
卷積神經網絡（Convolutional Neural Networks, CNN）是一類包含卷積計算的前饋神經網絡，是基于圖像任務的平移不變性（圖像識別的對象在不同位置有相同的含義）設計的，擅長應用于圖像處理等任務。在圖像處理中，圖像數據具有非常高的維數（高維的RGB矩陣表示），因此訓練一個標準的前饋網絡來識別圖像將需要成千上萬的輸入神經元，除了顯而易見的高計算量，還可能導致許多與神經網絡中的維數災難相關的問題。
對于高維圖像數據，卷積神經網絡利用了卷積和池化層，能夠高效提取圖像的重要“特征”，再通過后面的全連接層處理“壓縮的圖像信息”及輸出結果。對比標準的全連接網絡，卷積神經網絡的模型參數大大減少了。
二、卷積神經網絡的“卷積”?
2.1 卷積運算的原理
在信號處理、圖像處理和其它工程/科學領域，卷積都是一種使用廣泛的技術，卷積神經網絡（CNN）這種模型架構就得名于卷積計算。但是，深度學習領域的“卷積”本質上是信號/圖像處理領域內的互相關（cross-correlation），互相關與卷積實際上還是有些差異的。卷積是分析數學中一種重要的運算。簡單定義f , g 是可積分的函數，兩者的卷積運算如下：
其定義是兩個函數中一個函數（g）經過反轉和位移后再相乘得到的積的積分。如下圖，函數 g 是過濾器。它被反轉后再沿水平軸滑動。在每一個位置，我們都計算 f 和反轉后的 g 之間相交區域的面積。這個相交區域的面積就是特定位置出的卷積值。
互相關是兩個函數之間的滑動點積或滑動內積。互相關中的過濾器不經過反轉，而是直接滑過函數 f，f 與 g 之間的交叉區域即是互相關。
下圖展示了卷積與互相關運算過程，相交區域的面積變化的差異：
在卷積神經網絡中，卷積中的過濾器不經過反轉。嚴格來說，這是離散形式的互相關運算，本質上是執行逐元素乘法和求和。但兩者的效果是一致，因為過濾器的權重參數是在訓練階段學習到的，經過訓練后，學習得到的過濾器看起來就會像是反轉后的函數。
2.2 卷積運算的作用
CNN通過設計的卷積核（convolution filter，也稱為kernel）與圖片做卷積運算（平移卷積核去逐步做乘積并求和）。
如下示例設計一個（特定參數）的3×3的卷積核：
讓它去跟圖片做卷積，卷積的具體過程是：
用這個卷積核去覆蓋原始圖片；
覆蓋一塊跟卷積核一樣大的區域之后，對應元素相乘，然后求和；
計算一個區域之后，就向其他區域挪動（假設步長是1），繼續計算；
直到把原圖片的每一個角落都覆蓋到為止；
可以發現，通過特定的filter，讓它去跟圖片做卷積，就可以提取出圖片中的某些特征，比如邊界特征。
進一步的，我們可以借助龐大的數據，足夠深的神經網絡，使用反向傳播算法讓機器去自動學習這些卷積核參數，不同參數卷積核提取特征也是不一樣的，就能夠提取出局部的、更深層次和更全局的特征以應用于決策。
卷積運算的本質性總結：過濾器(g)對圖片(f)執行逐步的乘法并求和，以提取特征的過程。卷積過程可視化可訪問：https://poloclub.github.io/cnn-explainer/ ? 或 ? https://github.com/vdumoulin/conv_arithmetic
三、卷積神經網絡
卷積神經網絡通常由3個部分構成：卷積層，池化層，全連接層。簡單來說，卷積層負責提取圖像中的局部及全局特征；池化層用來大幅降低參數量級(降維)；全連接層用于處理“壓縮的圖像信息”并輸出結果。
3.1 卷積層（CONV）
3.1.1 卷積層基本屬性
卷積層主要功能是動態地提取圖像特征，由濾波器filters和激活函數構成。一般要設置的超參數包括filters的數量、大小、步長，激活函數類型，以及padding是“valid”還是“same”。
卷積核大小（Kernel）：直觀理解就是一個濾波矩陣，普遍使用的卷積核大小為3×3、5×5等。在達到相同感受野的情況下，卷積核越小，所需要的參數和計算量越小。卷積核大小必須大于1才有提升感受野的作用，而大小為偶數的卷積核即使對稱地加padding也不能保證輸入feature map尺寸和輸出feature map尺寸不變（假設n為輸入寬度，d為padding個數，m為卷積核寬度，在步長為1的情況下，如果保持輸出的寬度仍為n，公式，n+2d-m+1=n，得出m=2d+1，需要是奇數），所以一般都用3作為卷積核大小。
卷積核數目：主要還是根據實際情況調整， 一般都是取2的整數次方，數目越多計算量越大，相應模型擬合能力越強。
步長（Stride）：卷積核遍歷特征圖時每步移動的像素，如步長為1則每次移動1個像素，步長為2則每次移動2個像素（即跳過1個像素），以此類推。步長越小，提取的特征會更精細。
填充（Padding）：處理特征圖邊界的方式，一般有兩種，一種是“valid”，對邊界外完全不填充，只對輸入像素執行卷積操作，這樣會使輸出特征圖像尺寸變得更小，且邊緣信息容易丟失；另一種是還是“same”，對邊界外進行填充（一般填充為0），再執行卷積操作，這樣可使輸出特征圖的尺寸與輸入特征圖的尺寸一致，邊緣信息也可以多次計算。
通道（Channel）：卷積層的通道數（層數）。如彩色圖像一般都是RGB三個通道（channel）。
激活函數：主要還是根據實際驗證，通常選擇Relu。
另外的，卷積的類型除了標準卷積，還演變出了反卷積、可分離卷積、分組卷積等各種類型，可以自行驗證。
3.1.2 卷積層的特點
通過卷積運算的介紹，可以發現卷積層有兩個主要特點：局部連接（稀疏連接）和權值共享。
局部連接，就是卷積層的節點僅僅和其前一層的部分節點相連接，只用來學習局部區域特征。（局部連接感知結構的理念來源于動物視覺的皮層結構，其指的是動物視覺的神經元在感知外界物體的過程中起作用的只有一部分神經元。）
權值共享，同一卷積核會和輸入圖片的不同區域作卷積，來檢測相同的特征，卷積核上面的權重參數是空間共享的，使得參數量大大減少。
由于局部連接（稀疏連接）和權值共享的特點，使得CNN具有仿射的不變性(平移、縮放等線性變換)
3.2 池化層（Pooling）
池化層可對提取到的特征信息進行降維，一方面使特征圖變小，簡化網絡計算復雜度；另一方面進行特征壓縮，提取主要特征，增加平移不變性，減少過擬合風險。但其實池化更多程度上是一種計算性能的一個妥協，強硬地壓縮特征的同時也損失了一部分信息，所以現在的網絡比較少用池化層或者使用優化后的如SoftPool。
池化層設定的超參數，包括池化層的類型是Max還是Average（Average對背景保留更好，Max對紋理提取更好），窗口大小以及步長等。如下的MaxPooling，采用了一個2×2的窗口，并取步長stride=2，提取出各個窗口的max值特征（AveragePooling就是平均值）：
3.3 全連接層（FC）
在經過數次卷積和池化之后，我們最后會先將多維的圖像數據進行壓縮“扁平化”， 也就是把 (height,width,channel) 的數據壓縮成長度為 height × width × channel 的一維數組，然后再與全連接層連接（這也就是傳統全連接網絡層，每一個單元都和前一層的每一個單元相連接，需要設定的超參數主要是神經元的數量，以及激活函數類型），通過全連接層處理“壓縮的圖像信息”并輸出結果。
3.4 ?示例：經典CNN的構建（Lenet-5）
LeNet-5由Yann LeCun設計于 1998年，是最早的卷積神經網絡之一。它是針對灰度圖進行訓練的，輸入圖像大小為32321，不包含輸入層的情況下共有7層。下面逐層介紹LeNet-5的結構：
1、C1-卷積層
第一層是卷積層，用于過濾噪音，提取關鍵特征。使用5 * 5大小的過濾器6個，步長s = 1，padding = 0。
2、S2-采樣層（平均池化層）
第二層是平均池化層，利用了圖像局部相關性的原理，對圖像進行子抽樣，可以減少數據處理量同時保留有用信息，降低網絡訓練參數及模型的過擬合程度。使用2 * 2大小的過濾器，步長s = 2，padding = 0。池化層只有一組超參數pool_size 和 步長strides，沒有需要學習的模型參數。
3、C3-卷積層
第三層使用5 * 5大小的過濾器16個，步長s = 1，padding = 0。
4、S4-下采樣層（平均池化層）
第四層使用2 * 2大小的過濾器，步長s = 2，padding = 0。沒有需要學習的參數。
5、C5-卷積層
第五層是卷積層，有120個5 * 5 的單元，步長s = 1，padding = 0。
6、F6-全連接層
有84個單元。每個單元與F5層的全部120個單元之間進行全連接。
7、Output-輸出層
Output層也是全連接層，采用RBF網絡的連接方式（現在主要由Softmax取代，如下示例代碼），共有10個節點，分別代表數字0到9（因為Lenet用于輸出識別數字的），如果節點i的輸出值為0，則網絡識別的結果是數字i。
如下Keras復現Lenet-5：
from?keras.models?import?Sequential from?keras?import?layers?le_model?=?keras.Sequential() le_model.add(layers.Conv2D(6,?kernel_size=(5,?5),?strides=(1,?1),?activation='tanh',?input_shape=(32,32,1),?padding="valid")) le_model.add(layers.AveragePooling2D(pool_size=(2,?2),?strides=(2,?2),?padding='valid')) le_model.add(layers.Conv2D(16,?kernel_size=(5,?5),?strides=(1,?1),?activation='tanh',?padding='valid')) le_model.add(layers.AveragePooling2D(pool_size=(2,?2),?strides=(2,?2),?padding='valid')) le_model.add(layers.Conv2D(120,?kernel_size=(5,?5),?strides=(1,?1),?activation='tanh',?padding='valid')) le_model.add(layers.Flatten()) le_model.add(layers.Dense(84,?activation='tanh')) le_model.add(layers.Dense(10,?activation='softmax'))四、CNN圖像分類-keras?
以keras實現經典的CIFAR10圖像數據集的分類為例，代碼：https://github.com/aialgorithm/Blog
訓練集輸入數據的樣式為：(50000, 32, 32, 3)對應 (樣本數, 圖像高度， 寬度, RGB彩色圖像通道為3)
展示數據集，共有10類圖像：
數據及標簽預處理：
構造卷積神經網絡: 輸入層->多組卷積及池化層->全連接網絡->softmax多分類輸出層。（如下圖部分網絡結構）
模型編譯：設定RMSprop 優化算法；設定分類損失函數.
模型訓練: 簡單驗證5個epochs
模型評估：測試集accuracy: 0.716，可見訓練/測試集整體的準確率都不太高（欠擬合），可以增加epoch數、模型調優驗證效果。
附 卷積神經網絡優化方法（tricks）：
超參數優化：可以用隨機搜索、貝葉斯優化。推薦分布式超參數調試框架Keras Tuner包括了常用的優化方法。
數據層面：數據增強廣泛用于圖像任務，效果提升大。常用有圖像樣本變換、mixup等。更多優化方法具體可見：https://arxiv.org/abs/1812.01187
#?保存模型和權重 num_predictions?=?20 save_dir?=?os.path.join(os.getcwd(),?'saved_models') model_name?=?'keras_cifar10_trained_model.h5'if?not?os.path.isdir(save_dir):os.makedirs(save_dir) model_path?=?os.path.join(save_dir,?model_name) model.save(model_path) print('Saved?trained?model?at?%s?'?%?model_path)#?評估訓練模型 scores?=?model.evaluate(x_test,?y_test,?verbose=1) print('Test?loss:',?scores[0]) print('Test?accuracy:',?scores[1])plt.plot(history.history['accuracy'],?label='accuracy') plt.plot(history.history['val_accuracy'],?label?=?'val_accuracy') plt.xlabel('Epoch') plt.ylabel('Accuracy') plt.ylim([0.5,?1]) plt.legend(loc='lower?right') plt.show()- END -文章首發公眾號“算法進階”，文末閱讀原文可訪問文章相關代碼
往期精彩回顧適合初學者入門人工智能的路線及資料下載機器學習及深度學習筆記等資料打印機器學習在線手冊深度學習筆記專輯《統計學習方法》的代碼復現專輯 AI基礎下載黃海廣老師《機器學習課程》視頻課黃海廣老師《機器學習課程》711頁完整版課件
本站qq群955171419，加入微信群請掃碼：
與50位技術專家面對面20年技術見證，附贈技術全景圖總結
以上是生活随笔為你收集整理的【深度学习】一文弄懂CNN及图像识别(Python)的全部內容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： Maven打包自动发布到nexus私服
- 下一篇： 【Python】用Python实现十大经