机器学习算法源码全解析(三)-范数规则化之核范数与规则项参数选择
生活随笔
收集整理的這篇文章主要介紹了
机器学习算法源码全解析(三)-范数规则化之核范数与规则项参数选择
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
前言
參見上一篇博文,我們聊到了L0,L1和L2范數,這篇我們絮叨絮叨下核范數和規則項參數選擇。知識有限,以下都是我一些淺顯的看法,如果理解存在錯誤,希望大家不吝指正。謝謝。
機器學習算法源碼全解析(二)-范數規則化之L0、L1與L2范數
https://wenyusuran.blog.csdn.net/article/details/25868893
三、核范數
核范數||W||*是指矩陣奇異值的和,英文稱呼叫Nuclear Norm。這個相對于上面火熱的L1和L2來說,可能大家就會陌生點。那它是干嘛用的呢?霸氣登場:約束Low-Rank(低秩)。OK,OK,那我們得知道Low-Rank是啥?用來干啥的?
我們先來回憶下線性代數里面“秩”到底是啥?舉個簡單的例子吧:
對上面的線性方程組,第一個方程和第二個方程有不同的解,而第2個方程和第3個方程的解完全相同。從這個意義上說,第3個方程是“多余”的,因為它沒有帶來任何的信
總結
以上是生活随笔為你收集整理的机器学习算法源码全解析(三)-范数规则化之核范数与规则项参数选择的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 机器学习算法与Python实践之(六)二
- 下一篇: 机器学习算法源码全解析(二)-范数规则化