機器學習在本質上就是找到個好用的函數。

而人工神經網絡最牛的地方可能就在于，它可以在理論上證明：“一個包含足夠多隱含層神經元的多層前饋網絡，能以任意精度逼近任意預定的連續函數”。

這個定理也被稱為通用近似定理（UniversalApproximationTheorem這里的“Universal”，也有人將其翻譯成“萬能的”，由此可以看出，這個定理的能有多大。

通用近似定理告訴我們，不管函數 f(x) 在形式上有多復雜，我們總能確保找到一個神經網絡，對任何可能的輸入，以任意高的精度近似輸出 f(x) 。換句話說，神經網絡在理論上可近似解決任何問題，這就厲害了！有關神網絡可以計算任何函數的可視化證明。

僅有一層的前饋網絡，的確足以有效地表示任何函數，但是，這樣的網絡結構可能會格外龐大，進而無法正確地 學習和泛化。

如下圖，在區間[-2,2]中神經網絡對函數擬合的不錯，但是當超過此區間時，結果便大相徑庭，也就很難 “泛化” 支撐其他輸入。

參考文獻：《深度學習之美:AI時代的數據處理與最佳實踐》

猜你喜歡：👇🏻
?【隨筆】深度學習之美——楊家有女初長成，養在深閨人未識
?【隨筆】卷積神經網絡中的卷積怎么卷？
?【隨筆】激活函數是怎樣一種存在？

與50位技術專家面對面20年技術見證，附贈技術全景圖

總結

以上是生活随笔為你收集整理的【随笔】通用近似定理的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。