1. 范數的含義與定義

范數(norm)是數學中的一種基本概念，是具有“長度”概念的函數。
??在泛函分析中，它定義在賦范線性空間中，并滿足一定的條件，即①非負性；②齊次性；③三角不等式。它常常被用來度量某個向量空間（或矩陣）中的每個向量的長度或大小。
??在線性代數、泛函分析及相關的數學領域，范數是一個函數，是矢量空間內的所有矢量賦予非零的正長度或大小。半范數可以為非零的矢量賦予零長度。

2. 常見范數

2.1 向量范數

通俗的理解，向量范數就是在這個向量空間中向量的大小
一般向量范數常使用L-P范數
其通用公式為：

注意，上述公式中X_i外應該有絕對值符號。
聰明的你應該已經發現了：
??L₀范數表示向量中非零元素個數

??L₁范數表示向量元素絕對值之和，L1范數有很多的名字，例如我們熟悉的曼哈頓距離、最小絕對誤差等。使用L1范數可以度量兩個向量間的差異，如絕對誤差和（Sum of Absolute Difference）
??由于L1范數的天然性質，對L1優化的解是一個稀疏解，因此L1范數也被叫做稀疏規則算子。通過L1可以實現特征的稀疏，去掉一些沒有信息的特征，例如在對用戶的電影愛好做分類的時候，用戶有100個特征，可能只有十幾個特征是對分類有用的，大部分特征如身高體重等可能都是無用的，利用L1范數就可以過濾掉。

??L₂范數讓人想到歐幾里得距離，L2范數通常會被用來做優化目標函數的正則化項，防止模型為了迎合訓練集而過于復雜造成過擬合的情況，從而提高模型的泛化能力。

??L_∞通常用來度量元素的最大值。

2.2 矩陣范數

矩陣可以看作向量空間上的一次向量的線性變換，矩陣范數就是用來衡量變化幅度大小的。

2.2.1 誘導范數

由向量范數的L-P范數誘導而來，故曰誘導范數

列和范數，即所有矩陣列向量絕對值之和的最大值

譜范數，即ATA矩陣的最大特征值的開平方。（快去復習矩陣特征值怎么求）

行和范數，即所有矩陣行向量絕對值之和的最大值。

2.2.2 非誘導范數

Frobenius范數，即矩陣元素絕對值的平方和再開平方（上圖公式漏了絕對值的平方，百度害人）

核范數，是指矩陣奇異值的和（快去復習什么叫矩陣奇異值）
作用：約束低秩
https://www.zhihu.com/question/26471536

總結

以上是生活随笔為你收集整理的【数学知识】||x||（范数 norm）的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。