損失函數：

L1損失：

n個樣本的平均絕對誤差（MAE）：

即，真實值和預測值之間的差值的絕對值的和。

使用L1損失函數，就是最小化MAE。

L2損失：

n個樣本的均方誤差（MSE）：

即，真實值和預測值之間的差值的平方的和。

?使用L2損失函數，就是最小化MSE。

?

正則化：

L1正則化：即對權重矩陣的每個元素絕對值求和:

L2正則化：即對權重矩陣的每個元素求平方和（先平方，后求和）:

注意：正則化項不需要求平均數，因為權重矩陣和樣本數量無關，只是為了限制權重規模。

總結

以上是生活随笔為你收集整理的【深度学习】L1、L2损失 和 L1、L2正则化的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。