第15講 子空間投影

Projections onto subspaces

網易公開課?open.163.com

• 投影（射影）Projections

投影問題的幾何解釋就是：如何在向量a的方向上尋找與向量b距離最近的一點。從圖中可以看出，這個距離最近的點p就位于穿過b點并與向量a正交的直線與向量a所在直線的交點上。這就是b在a上的投影。如果我們將向量p視為b的一種近似，則長度e=b-p就是這一近似的誤差。

因為p在向量a的方向上，因此可以令p=xa，而因為它和e正交，我們可以得到方程：

。

解得：x=

，p= 。

如果b變為原來的2倍，則p也變為原來的2倍。而如果a變為原來的2倍，p不發生變化。從幾何上和計算中都會得到驗證。

本單元前半部分的核心內容就是射影。上一單元我們最核心的內容是認識消元法對于線性方程組的意義，并用矩陣的數學語言實現了消元過程，在那里最核心的策略就是利用矩陣乘法中的行操作來實現這一過程。這里面臨類似的情況，我們有一個明確的幾何目標，要將向量投影到已知子空間，而這里的策略就是誤差向量和已知子空間正交，即兩者求點積為0。

• 投影矩陣 Projections matrix

我們將投影問題用投影矩陣的方式進行描述，即為p=Pb，其中P為投影矩陣。

p=

。則有P 。，其分子 是一個矩陣，而分母 是一個數。

觀察這個矩陣可知，矩陣P的列空間就是向量a所在的直線，矩陣的秩是1。投影矩陣P是一個對稱矩陣。另一方面，如果做兩次投影則有

，這是因為第二次投影還在原來的位置。因此矩陣P有如下性質： ， 。

• 為什么要投影 Why Project

如前所述，方程Ax=b有可能無解，我們需要得到方程的“最優解”。這里的問題在于向量Ax一定在矩陣A的列空間之內，但是b不一定，因此我們希望將b投影到A的列空間得到p，將問題轉化為求解

。

• 在高維投影 Projection in higher dimensions

在R3空間內，如何將向量b投影到它距離平面最近的一點p？

如果a1和a2構成了平面的一組基，則平面就是矩陣A=[a1 a2]的列空間。

已知向量p在平面內，則有p=

。而 與投影平面正交（重點），因此e與a1和a2均正交，因此可以得到： 并且 。因為a1和a2分別為矩陣A的列向量，即和為矩陣的行向量，所以將兩個方程式寫成矩陣形式即為。這與一維投影的方程形式相同。

向量

存在于矩陣的零空間N()里，從上一講討論子空間的正交性可知，向量e與矩陣A的列空間正交，這也正是方程的意義。

將方程

改寫，可得。兩側左乘，得到：

因為矩陣A不是方陣，無法簡單的用

對投影矩陣公式進行化簡。若A是可逆方陣，則化簡得到P=I。此時A的列空間就是整個Rn空間，b到這個空間的投影就是其本身，投影矩陣等于單位陣。

對

用矩陣乘法的結合律和矩陣乘積的轉置公式，可以證明投影矩陣的性質： ， 。

• 最小二乘法 Least Squares

應用投影矩陣求方程組最優解的方法，最常用于“最小二乘法”擬合曲線。

有三個數據點{(1,1), (2,2), (3,2)}，求直線方程b=C+Dt，要求直線盡量接近于三個點。把三個點的數據代入方程則有：

C+ D=1

C+2D=2

C+3D=2

矩陣形式為

這個的方程Ax=b是無解的，解決辦法就是求其最優解，即方程

的解。

總結

以上是生活随笔為你收集整理的已知法向量 求投影_MIT—线性代数笔记15 子空间投影的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。