吳恩達Coursera機器學習課程系列筆記講解

課程筆記|吳恩達Coursera機器學習 Week1 筆記-機器學習基礎

干貨|機器學習零基礎？不要怕，吳恩達機器學習課程筆記2-多元線性回歸

干貨|機器學習零基礎？不要怕，吳恩達課程筆記第三周！邏輯回歸與正則

Neural Networks: Representation

1?Motivation

之前講的Linear regression和Logistric regression都是線性分類器(linear classification)，因為它們都只能用一條線來分類。

然而很多情況下，我們的分界線不見得是一條簡單的曲線，可能就是一條彎來彎去的曲線，所以我們需要一個非線性分類器來劃分這個數據集。

我們可以使用如下的式子去假設這個非線性模型:但是如果特征很多很多，比如說一幅圖像，我們用每一個像素去表示一個特征的話，這個計算量將是無比巨大的，所以更普及的一個方法是使用神經網絡(Neural Networks)。

神經網絡，顧名思義，就是模仿了人類大腦的構造了，一層一層的進行計算，最后得出一個結果。

每一層對上一層的數據進行一個抽象得出一系列的決策，然后下一層在對這一層得出的決策再進行一個抽象的到更高層次的決策，就這樣一層一層下去，直到最后一層的出一個終極決策，輸出結果。

我們的大腦中使用“神經元(neuron)”去感知，去連接其他的神經。

類比一下，在神經網絡中也是如此，我們在每一層中，弄幾個神經元來感知(=計算)，然后講決策傳個下一層的神經元……以此類推直至最后一個輸出層的神經元。

2?Model Representation

首先看一下一個神經元是怎么工作的：

然后再來看由多個這樣的神經元組成的簡單的三層神經網絡是怎么樣工作的：

下面，我們把這一系列的計算公式展開來，然后再合并成colume vector相乘的格式，最后再合并成matrix相乘的形式。sigmoid函數用σ(z)來表示。

以上便是一個三層的神經網絡的工作流程，再復雜的也是這樣一層一層計算的。

這里最容易弄混淆的就是轉換成矩陣的這一步了。有一個比較好的檢驗矩陣表示是否正確的方法，就是去check一下矩陣相乘之后的維度，如果相乘的時候維度對不上，嘗試轉置一下。

另外在這門課程中，我們的向量都是column vector，即豎的向量；矩陣都是row represented matrix，即以一行為數據。

3?Multiclass Classification

上一周的課程中已經講過如何使用“one-to-rest/all”的方法來進行多分類問題了，就是k個二分類器把屬于這一類的分別挑出來。

這樣的話，需要分別訓練k個二分類器。接下來，我們使用神經網絡進行多分類，只要訓練一個分類器即可。說是一個分類器，其實是k個分類器的集合器，我們把k個分類器分別放在了隱藏層的k個神經元中。

然后這k個神經元自然會輸出k個結果，將這些結果使用softmax函數轉換成概率，然后取概率最大的那一個類別即可。

細節圖如下：

其中的softmax函數是為了讓這幾個分類器的結果具有可比性而引入了一個函數，它將把這些結果轉換成“同一分布”的概率，即這k個概率總和為1。下面式子中的z是一個K維向量：

比如接下來我們需要通過神經網絡去識別一幅圖像。

我們將圖像中的每一個像素作為一個特征，輸入到如上的多分類神經網絡中去，并且告訴神經網絡，這幅圖是什么，然后讓它自己去比較預測結果和正確結果，使用back propagation的方法去糾正錯誤，學習像素與類別之間關系。如此一來，輸入一幅全新的圖像后，這個神經網絡就可以知道類別什么了。

和上面的細節圖一樣，W用來表示隱藏層的3個神經元即3個二分類器（cat分類器、dog分類器、ship分類器），最后3個分類器輸出三個類的概率（cat score、dog score、ship score），結果dog的概率最大，但是正確的類別是cat，所以需要神經網絡去比較預測結果和正確結果，然后使用back propagation的方法去糾正錯誤，下一次將會講到，如何比較結果，如何糾正錯誤。

總結

以上是生活随笔為你收集整理的干货|吴恩达Coursera课程教你学习神经网络！的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。