線性代數用來解決什么問題的？線性代數以向量和矩陣為工具，解決線性空間中向量的合成與分解問題。

矩陣是什么？可以多角度觀察，是有序向量組，是線性變換，甚至是數值表格。

矩陣乘法為什么那么定義，初看很變扭，其實很自然？就是向量合成。

$AB=BA$，矩陣乘法一般情況下為什么不滿足交換律，因為它們本來就是兩個完全不同的對象。實數乘法滿足交換律是個定理，需要證明，a個b的和居然等于b個a的和，多么不可思議！

矩陣行列式 $detA$ 計算公式為什么那么復雜，這個數值到底代表什么？它其實就是A的列向量組構成的多邊形的有向體積。那為什么要定義成體積呢？因為當A的列向量組線性相關（不可逆）時，此多邊形的體積為0。

$(AB{)}^T＝B^T{A}^T;(AB{)}^{?1}＝B^{?1}{A}^{?1}$，矩陣轉置和逆的公式為什么如此相似？因為方程 $A\mathbf{x}=\mathbf{b}$ 的解空間為 $A^T\mathbf{u}$，與解 $A^{?1}\mathbf{b}$ 形式相似。正交矩陣的轉置等于逆：$Q^T=Q^{?1}$。

為什么只有方陣才可能有逆，方陣的列向量組線性無關時為什么可逆呢？因為此時方陣是個一一映射的變換。

矩陣有逆，其實還有左逆、右逆和偽逆，你知道嗎？它們對應矩陣行列均滿秩，列滿秩、行滿秩和列行均不滿秩，它們分別用于求唯一解、最優近似解、范數最小解和最優近似解中范數最小的解（偽逆解）。

$A\mathbf{x}=\mathbf{b}$ 對任意矩陣 $A$ 存在通解公式嗎？偽逆解 $＋$ 零解！

矩陣的秩能用一句大白話讓小學生深刻理解嗎？秩就是方程 $A\mathbf{x}=0$ 獨立方程的數量。

向量組線性無關為什么如此重要，因為它保證方程 $A\mathbf{x}=\mathbf{b}$ 是單射。

矩陣 $A_{mn}$ 的四個子空間：零空間 $\{\mathbf{x}:A\mathbf{x}=0\}$ 和行空間 $\{A^T\mathbf{u}\}$，它們是 $R^n$ 空間中的正交互補子空間；左零空間 $\{\mathbf{x}:A^T\mathbf{x}=0\}$ 和列空間 $\{A\mathbf{v}\}$ ，它們是 $R^m$ 空間中的正交互補子空間。它們是方程$A\mathbf{x}=\mathbf{b}$ 的核心概念！零空間 $\{\mathbf{x}:A\mathbf{x}=0\}$ 就是零解；行空間和列空間的維度相等，等于矩陣秩，這兩個子空間構成一一映射，變換矩陣分別為 $A_{mn}$ 和偽逆 $A_{nm}^{+}$ ；左零空間 $\{\mathbf{x}:A^T\mathbf{x}=0\}$ 不能被列空間 $\{A\mathbf{v}\}$ 表示。如果沒有理解這四個子空間，就不可能深刻理解方程 $A\mathbf{x}=\mathbf{b}$ 。

注意到矩陣 $A^{T}A$ 和 $A{A}^T$ 的重要性嗎？它們對計算左逆、右逆和偽逆極其重要，四個矩陣 $A^{T}A$ 、$A{A}^T$ 、$A^T$ 和 $A$ 秩均相同。

對稱矩陣的譜定理 $S=Q\Lambda Q^T$ 和任意矩陣的奇異值分解 $A=U\Sigma V^T$ ，它們之間的內在聯系你知道嗎？

矩陣分解的目的是什么？如 $S_n=Q\Lambda Q^T$ ， $A_{mn}=U\Sigma V^T$ ， $A_n=X\Lambda X^{?1}$ ， $A_n=LDU$ ， $A_{mn}=QR$ ，$A_n=XJ{X}^{?1}$ ，$A_n=QR{Q}^T$ ，是為了各個分量盡可能解耦和簡化方程$A\mathbf{x}=\mathbf{b}$ 求解。由于矩陣的性質不同，故有各種分解形式。

你會證明奇異值分解 $A=U\Sigma V^T$ 定理嗎？

奇異值分解的應用你真正掌握了嗎？數據壓縮（矩陣低秩最優近似）、數據降維（PCA）、總體最小二乘法（TLS）、數據高度相關時如何擬合（偽逆或嶺回歸）。

矩陣特征值數值不穩定，而奇異值穩定，知道原因嗎？

如何計算高階矩陣的特征值？解方程嗎，可是4階以上方程無代數解啊！

矩陣 $QR$ 分解對解方程的重要性。