UA SIE545 优化理论基础1 凸分析1 线性流形与超平面
UA SIE545 優化理論基礎1 凸分析1 線性流形與超平面
- 線性流形
- 超平面
線性流形
假設FFF是一個數域,VVV是FFF上的一個線性空間。稱M?VM \subset VM?V是一個線性流形,如果
?x,y∈M,?λ∈F,(1?λ)x+λy∈M\forall x,y \in M,\forall \lambda \in F,(1-\lambda)x+\lambda y \in M?x,y∈M,?λ∈F,(1?λ)x+λy∈M
定理1 線性子空間是包含零元的線性流形
證明
“?\Rightarrow?” 顯然成立;
“?\Leftarrow?” 驗證下面幾點:
?λ∈F,x∈M,λx=(1?λ)0+λx∈M\forall \lambda \in F,x \in M,\lambda x = (1-\lambda)0+\lambda x \in M?λ∈F,x∈M,λx=(1?λ)0+λx∈M
?x,y∈M,x+y=2(x/2+y/2)∈M\forall x,y \in M,x+y = 2(x/2+y/2) \in M?x,y∈M,x+y=2(x/2+y/2)∈M
因此包含零元的線性流形是線性子空間。
證畢
定義集合M?VM \subset VM?V沿向量a∈Va \in Va∈V方向的平移為
M+a={x+a:x∈M}M+a = \{x+a:x \in M\}M+a={x+a:x∈M}
記S=M+aS=M+aS=M+a,稱MMM與SSS平行,記為M∣∣SM||SM∣∣S,這是一種等價關系。
定理2 線性空間中的每個線性流形都平行于唯一一個線性子空間:
L?M?M={x?y:x,y∈M}L \triangleq M-M = \{x-y:x,y \in M\}L?M?M={x?y:x,y∈M}
證明
考慮?y∈M\forall y \in M?y∈M, M?yM-yM?y是一個線性流形,并且包含零元,根據定理1,M?yM-yM?y是一個線性子空間,因為yyy的任意性,我們可以構造
L?M?M={x?y:x,y∈M}L \triangleq M-M = \{x-y:x,y \in M\}L?M?M={x?y:x,y∈M}
滿足M∣∣LM||LM∣∣L。下面討論唯一性,假設MMM平行于L1,L2L_1,L_2L1?,L2?,根據平行的傳遞性,L1∣∣L2L_1 || L_2L1?∣∣L2?,說明?a∈V\exists a \in V?a∈V, L2=L1+aL_2 = L_1+aL2?=L1?+a,對于0∈L20 \in L_20∈L2?, ??a∈L1\exists -a \in L_1??a∈L1?, 0=?a+a0=-a+a0=?a+a,因此a∈L1a \in L_1a∈L1?, 所以L2=L1+a?L1L_2 = L_1+a \subset L_1L2?=L1?+a?L1?,類似有L1?L2L_1 \subset L_2L1??L2?。故L1=L2L_1=L_2L1?=L2?。
證畢
稱LLL與MMM具有相同的維數:dim(L)=dim(M)=dim(V)?1dim(L)=dim(M)=dim(V)-1dim(L)=dim(M)=dim(V)?1。維數為0、1、2、大于2的線性空間中的線性流形分別叫做點、線、平面與超平面。
超平面
在線性空間VVV上定義內積:?x,y∈V\forall x,y \in V?x,y∈V,
(x,y)=∑i=1nxiyi(x,y) = \sum_{i=1}^n x_iy_i(x,y)=i=1∑n?xi?yi?
有了內積之后,根據Riesz定理,VVV上的任意線性泛函fff可以表示為
f(x)=(x,b),?b∈Vf(x) = (x,b), \exists b \in Vf(x)=(x,b),?b∈V
并且我們可以定義正交:xxx與yyy正交等價于(x,y)=0(x,y)=0(x,y)=0,如果xxx與子空間WWW中的每個向量正交,就稱xxx與子空間WWW正交。VVV中所有與WWW正交的向量構成的子空間叫做WWW的正交補空間,記為W⊥W^{\perp}W⊥。
定理3 VVV中的每個超平面都可以用它的法線唯一表示。用HHH表示超平面,則?!b∈V,?!β∈F\exists ! b \in V,\exists ! \beta \in F?!b∈V,?!β∈F
H={x∈V:(x,b)=β}H =\{x \in V:(x,b)=\beta\}H={x∈V:(x,b)=β}
稱bbb為HHH的法向量。
證明
根據定理2,dim(L)=dim(H)=dim(V)?1dim(L)=dim(H)=dim(V)-1dim(L)=dim(H)=dim(V)?1。對于線性子空間LLL,它的正交補空間LTL^TLT的維數為1,因此?b∈LT\exists b \in L^T?b∈LT,
L={x∈V:(x,b)=0}L = \{x\in V:(x,b)=0\}L={x∈V:(x,b)=0}
需要注意的是雖然bbb不唯一,但dim(LT)=1dim(L^T)=1dim(LT)=1,因此bbb代表的方向是唯一的,它表示與LTL^TLT平行的方向,或者說,LLL的法向。因為L∣∣HL||HL∣∣H,?!a∈V\exists !a \in V?!a∈V,
H=L+a={x∈V:(x,b)=0}+a={x∈V:(x,b)=β}H= L+a = \{x\in V:(x,b)=0\}+a = \{x \in V:(x,b)=\beta\}H=L+a={x∈V:(x,b)=0}+a={x∈V:(x,b)=β}
其中β=(a,b)\beta = (a,b)β=(a,b)。
證畢
總結
以上是生活随笔為你收集整理的UA SIE545 优化理论基础1 凸分析1 线性流形与超平面的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 矩阵分析与多元统计II 二次型与二次曲面
- 下一篇: UA MATH567 高维统计I 概率不