前言

學以致用，以學促用，通過筆記總結，鞏固學習成果，復習新學的概念。
目錄

文章

文章目錄

• 前言
• 文章
• 正文
• • 模型引入
  • 多元梯度下降
  • 技巧1 特征壓縮
  • 梯度下降2：學習率
  • 多項式回歸
  • 補充內容
  • 作業(yè)答案

正文

本節(jié)學習內容主要為多元線性回歸

模型引入

引入問題，上次那個一元線性回歸模型還是過于簡略，并不符合實際情況，畢竟實際上我們買房的時候會考慮，樓層啊，地段等等之類的因素，而不是只考慮面積這一個因素。
多元回歸的模型，為了方便之后的計算，對特征新增一項$$x_0=1$$

多元梯度下降

為了方便公式的推導，我們將${\theta }_0...{\theta }_n$簡化為$\theta$.
多元梯度回歸相比于之前的變化，以及具體實現(xiàn)的細節(jié)。

技巧1 特征壓縮

因為,每個特征的原始尺度不同，因此，需要對其進行壓縮，以方便后面的學習算法對其進行學習。
特征壓縮第一步，讓每個特征的范圍為[-1,1]

特征壓縮第二步，讓每個特征的均值為0.

梯度下降2：學習率

梯度下降算法的細節(jié)2，學習率對梯度算法的影響。
如何確認梯度下降算法是否正常工作？通過畫出每一步誤差函數(shù)的變化確認，算法工作正常。
學習率的大小對梯度算法運行的影響。
這里總結了學習率的影響，以及如何選擇學習率。

多項式回歸

只有一個原始數(shù)據(jù)，也可以通過對它取各次冪變成多元回歸。

梯度下降只是一種解決方法，還可以用正規(guī)方程獲得解析解。
迭代求解方法。
使用正規(guī)方程求解的例子

正規(guī)方程和梯度下降求解的比較。

補充內容

正規(guī)方程求解的問題，如果矩陣不可逆？
矩陣不可逆的原因。

作業(yè)答案

多元和單元的寫在一塊兒的，參見第二周：線性回歸

總結

以上是生活随笔為你收集整理的吴恩达 coursera ML 第四课总结+作业答案的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。