UA MATH567 高維統計IV Lipschitz組合1 Lipschitz函數

高維統計的第二部分與第三部分分別討論了基于亞高斯性導出的隨機向量與隨機矩陣的concentration inequality，這條推導路徑需要獨立性的假設；在第一部分的第十二講我們介紹過McDiarmid不等式，它給出了比內積、范數更廣義的Lipschitz組合的concentration inequality，盡管我們當時沒有做深入討論，使用Lipschitz的假設可以替換獨立性的假設，進一步討論隨機向量與隨機矩陣在沒有獨立性假設時的concentration inequality，高維統計的第四部分會介紹一些相關的結果。

---

我們從Lipschitz函數開始介紹：

$(X,d_X),(Y,d_Y)$是兩個度量空間，$f:X\to Y$是Lipschitz函數如果$?L\ge 0$，（這個$L$被稱為Lipschitz常數）
$$d_Y(f(u),f(v))\le L{d}_X(u,v),?u,v\in X$$

稱${\Vert f\Vert }_{Lip}$為Lipschitz函數$f$的Lipschitz范數，
$${\Vert f\Vert }_{Lip}=\inf \{L\ge 0:d_Y(f(u),f(v))\le L{d}_X(u,v),?u,v\in X\}$$

說明
我們先驗證一下Lipschitz范數滿足范數的定義：用$Lip$表示$(X,d_X)$到$(Y,d_Y)$的所有Lipschitz函數，不難驗證$Lip$是一個線性空間，下面說明${\Vert f\Vert }_{Lip}$滿足范數的定義，

非負性：因為Lipschitz常數非負，所以${\Vert f\Vert }_{Lip}$非負，并且，如果${\Vert f\Vert }_{Lip}$為0，那么$?u,v$，$d_Y(f(u),f(v))\le 0$，根據度量的定義，$d_Y(f(u),f(v))\le 0$等價于$d_Y(f(u),f(v))=0$等價于$f(u)=f(v)$，于是$f$是常數，因為所有常值函數的Lipschitz范數都是0，在賦范線性空間$(Lip,{\Vert \Vert }_{Lip})$中，我們可以認為所有的常值函數等價；

正齊次性：$${\Vert \lambda f\Vert }_{Lip}=\inf \{L\ge 0:d_Y(\lambda f(u),\lambda f(v))\le L{d}_X(u,v),?u,v\in X\}$$其中$d_Y(\lambda f(u),\lambda f(v))\le |\lambda |d_Y(f(u),f(v))$，所以$d_Y(\lambda f(u),\lambda f(v))\le |\lambda |d_Y(f(u),f(v))\le |\lambda |L{d}_X(u,v)$，于是$${\Vert \lambda f\Vert }_{Lip}=|\lambda |{\Vert f\Vert }_{Lip}$$

三角不等式：$$\begin{gathered} {\Vert f+g\Vert }_{Lip}=\inf \{L\ge 0:d_Y((f+g)(u),(f+g)(v)) \\ \le L{d}_X(u,v),?u,v\in X\} \end{gathered}$$根據Minkowski不等式
$$d_Y((f+g)(u),(f+g)(v))\le d_Y(f(u),f(v))+d_Y(g(u),g(v))$$于是$$d_Y((f+g)(u),(f+g)(v))\le {\Vert f\Vert }_{Lip}{d}_X(u,v)+{\Vert g\Vert }_{Lip}{d}_X(u,v)$$

---

Lipschitz函數的分析性質

Lipschitz函數一致連續；

緊集上的$C^1$函數是Lipschitz函數（事實上我們需要的是一階導有界）；

說明
這兩個性質說明Lipschitz介于$C^0$與$C^1$之間。

有的時候第二條性質容易被簡單理解成可微函數就是Lipschitz函數，但這個說法并不嚴謹，比如$f(x)=x^{1/3},x\in [?1,1]$，顯然$f$是可微的，但它不是Lipschitz函數，因為在$x=0$處，$f^{\prime }(0)=+\infty$，所以$??>0$，
$$f(0^{+})?f(0^{?})>?$$

顯然它不會是Lipschitz函數，因此可微且一階導有界的函數才是Lipschitz函數。

另外，Lipschitz函數一定是一致連續但不一定是可微的，比如$f(x)=|x|,x\in [?1,1]$，它是一致連續的函數也是Lipschitz函數，但它在0處不可微。

總結

以上是生活随笔為你收集整理的UA MATH567 高维统计IV Lipschitz组合1 Lipschitz函数的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。