當前位置：首頁 > 编程资源 > 编程问答 >内容正文

编程问答

【学习笔记】吴恩达机器学习 WEEK1

發布時間：2024/10/6 编程问答 35 豆豆

生活随笔收集整理的這篇文章主要介紹了【学习笔记】吴恩达机器学习 WEEK1 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

Introduction

機器學習算法分類

監督學習 Supervised learning
無監督學習 Unsupervised learning

監督學習

回歸 regression
map input variables to some continuous function
分類 classification
map input variables into discrete categories

無監督學習
給算法數據集，要求它找出數據的類型結構
實例：分離音頻
Octave：構建學習算法原型，使用Octave

Linear Regression with One Variable

代價函數 cost function
作用：measure the accuracy of our hypothesis function

$J(θ0,θ1)=12m∑i=1m(y^i?yi)2=12m∑i=1m(hθ(xi)?yi)2J\left(\theta_{0}, \theta_{1}\right)=\frac{1}{2 m} \sum_{i=1}^{m}\left(\hat{y}_{i}-y_{i}\right)^{2}=\frac{1}{2 m} \sum_{i=1}^{m}\left(h_{\theta}\left(x_{i}\right)-y_{i}\right)^{2}$

也叫做平方誤差函數，或者是均方誤差

代價函數的講解

$hθ(x)h_\theta(x)$ ：固定參數 $θ\theta$ ，是 $x$ 的函數
$J(θ)J(\theta)$ ：是參數 $θ\theta$ 的函數
cost function的值越小，對應的擬合越好

梯度下降 Gradient descent
關鍵步驟：更新方程， $θ0和θ1\theta_0和\theta_1$ 需要同步更新

$θj:=θj?α??θjJ(θ0,θ1)\theta_{j}:=\theta_{j}-\alpha \frac{\partial}{\partial \theta_{j}} J\left(\theta_{0}, \theta_{1}\right)$

斜率會不斷變小，因此步伐會變小，慢慢靠近最后的解

4. Batch梯度下降算法
用梯度下降法，求解代價函數的最小值，得到線性回歸算法，用直線模型來擬合數據

Linear Algebra Review

線性代數知識回顧

大寫字母表示矩陣，小寫字母表示向量

矩陣與向量乘法
矩陣與向量的相乘，簡化計算，避免一個一個的帶入計算。

矩陣與矩陣乘法
包含更多信息，一次矩陣乘法就可以實現多種的預測（而且矩陣乘法很高效）

矩陣乘法的特性

沒有交換律（交換以后相乘得到的矩陣維度不同）

符合結合律

\times B \times C=A\times(B\times C)=(A\times B)\times C

特殊矩陣

單位矩陣 Identity Matrix

A ? I = I ? A = A

逆矩陣和矩陣的轉置

矩陣逆運算
If A is an

m×mm\times m

matrix，and if it has an inverse,

AA^{-1}=A^{-1}A=I

注意： 1. 方陣 2. 存在逆矩陣

矩陣的轉置運算 Matrix Transpose
矩陣的第一行變為第一列

B_{ij}=A_{ji}

總結

以上是生活随笔為你收集整理的【学习笔记】吴恩达机器学习 WEEK1的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。

上一篇：【学习笔记】吴恩达机器学习 WEEK 0
下一篇：【学习笔记】吴恩达机器学习 WEEK2