1 池化(pooling)層的理解

池化，也即降采樣(subsample)，降低數(shù)據(jù)的大小。

池化(pooling)

2 池化方法

常用的池化方法是：最大值池化(max_pooling)，平均值池化。其中，最常用的是最大值池化。

3 池化過程

通過使用一個池化核，并采用max_pooling進行池化。

如圖所示，池化核的大小是2*2，切記，池化核里面的數(shù)值其實是原始圖片中的像素值，池化核只是類似于一個模具，里面并沒有參數(shù)。

進行池化過程，同樣需要一個步長(包括高，寬，通道)

使用池化層時，必須定義其大小，步長，padding類型

4 池化作用

…可以減少計算量，內(nèi)存使用，參數(shù)數(shù)量(防止過擬合)

…提高神經(jīng)網(wǎng)絡(luò)的容錯能力(圖片發(fā)生平移，位置的變動)

5 池化和卷積的異同：

(1)通道方面：

池化前幾個通道，池化后還是幾個通道。

上一層的feature map的個數(shù)(也即圖層個數(shù))與下一層的卷積和通道數(shù)一致。

(2)卷積對應(yīng)有卷積核，池化對應(yīng)有池化核。卷積核里面有參數(shù)，但是池化核只是一個框架，里面沒有參數(shù)。

(3)使用方面都需要，定義其大小(size)，步長(stride)，padding類型。

(4)卷積里面一般用padding same ；池化里面用padding valid

6 卷積中使用“same”模式

目的是為了保證每個像素點都可以掃描到。

輸出神經(jīng)元個數(shù)等于輸入神經(jīng)元個數(shù)除以步長(向上取整)ceil(13/5)=3

7 使用zero padding相關(guān)計算

一：(“same”模式下)

(1)原始圖片的高，寬可以被步長整除

Eg:輸入圖片為6*6，卷積核大小為3*3，步長為(1，2)

那么feature map的大小(h,w)，h=6/1=5,w=6/2=3(向上取整)

此時，若用“same”模式：需要補0的個數(shù)如何計算?

Feature map 高度上需要的補0行數(shù)：3-1=2

Feature map 寬度上需要的補0列數(shù)：3-3=0

(2)原始圖片的高，寬不可以被步長整除

Eg:輸入圖片為5*5，卷積核大小為3*3，步長為(1，2)

那么feature map的大小(h,w)，h=5/1=5,w=5/2=3(向上取整)

Feature map 高度上需要的補0行數(shù)：3-1=2(行)

Feature map 寬度上需要的補0列數(shù)：3-(5%2)=2(列)

原始圖片高度能整除步長的高，需補0個數(shù)：卷積核高-步長高

原始圖片寬度不能整除步長的寬，需補0個數(shù)：卷積核寬-(輸入圖片的寬與步長的寬取余)。

二：valid模式下

如果原始圖片的大小為32*32，卷積核大小為5*5，卷積核的個數(shù)為8，步長為(1,1)

那么，feature map的高為：(32-5)/1+1=28，寬為：(32-5)/1+1=28。

其中公式為：(原始圖片大小-卷積核大小)/步長+1即可得到feature map的大小。

feature map的個數(shù)為8，也即卷積核的個數(shù)。

總結(jié)：

padding = “SAME”輸入和輸出大小關(guān)系如下：

輸出大小等于輸入大小除以步長向上取整，s是步長大小；

padding = “VALID”輸入和輸出大小關(guān)系如下：

輸出大小等于輸入大小減去濾波器大小加上1，最后再除以步長(f為濾波器的大小，s是步長大小)。

總結(jié)

以上是生活随笔為你收集整理的padding和卷积的区别_池化、池化与卷积异同、zero-padding的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。