卷積可以作為機器學(xué)習(xí)中的“特征提取器”。

我們在前面的講述中，提到過機器學(xué)習(xí)中分類模型的“特征提取器 + 分類器”的串聯(lián)結(jié)構(gòu)。在傳統(tǒng)的機器學(xué)習(xí)中，特征提取器是人為選定的，而分類器的參數(shù)則是用數(shù)據(jù)進行訓(xùn)練得到的。也就是“人為確定特征 + 數(shù)據(jù)訓(xùn)練分類器”的方式。然而，這種方式并不是萬能的，主要問題在于前半部分。

卷積神經(jīng)網(wǎng)絡(luò)特征提取

特征難題

因為，好的特征，特別在高維空間中的特征，很多情況下，是不容易直接由人類看出來的。那么，如何找到好的特征，就成為一個難題了。這個難題還催生出了機器學(xué)習(xí)的一個領(lǐng)域：特征工程 (feature engineering)。

特征工程，就是如何提取特征的一套方法論。特征非常重要，如果特征選擇得好的話，即使后面的分類器不是最優(yōu)，依然可以得到一個不錯的結(jié)果 (就像我們上面舉的例子一樣)。而如果特征沒選好的話，后面分類器即使再好，結(jié)果也不會太好。

特征工程一直是機器學(xué)習(xí)中的一個難點，主要的原因在于不同的數(shù)據(jù)、不同的問題中的好的特征都是不同的。例如，在圖像處理中，好的特征，往往不適用于語音信號處理；甚至兩個同樣是圖像識別的任務(wù)，因為所包含的數(shù)據(jù)不同，對應(yīng)的好的特征也不同。

此外，機器學(xué)習(xí)的研究者還有一個頭疼的問題是：

你怎么知道你手動選出來的特征是最好的？有沒有比它更好的特征呢？

通常，他們無法給出這個問題的答案。絕大多數(shù)情況下，往往只能通過試錯 (trail-and-error)，或者索性把所有能想到的特征都挨個試一遍。這種方法主要是依賴于經(jīng)驗和運氣，因此受到很多人的詬病。因此，很多人就想到了這樣一個問題：

是否可以通過像訓(xùn)練分類器一樣，用訓(xùn)練數(shù)據(jù)找到最好的特征呢？

當然可以。卷積神經(jīng)網(wǎng)絡(luò)就做了這件事情。

卷積作為特征提取器

卷積神經(jīng)網(wǎng)絡(luò)，從字面上包括兩個部分：卷積＋神經(jīng)網(wǎng)絡(luò)。其中，卷積就是特征提取器，而神經(jīng)網(wǎng)絡(luò)，可以看作分類器。訓(xùn)練一個卷積神經(jīng)網(wǎng)絡(luò)，就是同時訓(xùn)練了特征提取器 (卷積) 和后面的分類器 (神經(jīng)網(wǎng)絡(luò))。用函數(shù)的角度來看，傳統(tǒng)的分類模型可以寫成如下形式

y = f( x, θclassifier )

我們可以用訓(xùn)練數(shù)據(jù)，來調(diào)試只有分類器中才有的參數(shù)“θclassifier”。

根據(jù)前面幾講的論述，卷積神經(jīng)網(wǎng)絡(luò)的函數(shù)形式，可寫成如下形式：

y = f( x, θfilter, θclassifier )

該模型允許我們用訓(xùn)練數(shù)據(jù)來調(diào)試的參數(shù)變成了兩類：

特征提取器中的參數(shù)θfilter分類器中的參數(shù)θclassifier這樣一來，卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)，就非常清晰了。

總結(jié)

以上是生活随笔為你收集整理的10分钟弄懂深度学习：卷积与特征提取的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。