宽度学习(一):宽度学习体系:有效和高效的无需深度架构的增量学习系统[通俗易懂]
生活随笔
收集整理的這篇文章主要介紹了
宽度学习(一):宽度学习体系:有效和高效的无需深度架构的增量学习系统[通俗易懂]
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
Motivation
深度學習: 1,時間長:由于涉及到大量的超參數和復雜的結構,大多數神經網絡的訓練過程非常耗時。
2,重新訓練:如果要更改神經網絡的結構,或者增加樣本,深度學習系統將遇到一個完整的重新訓練過程。
寬度學習: 1,消除了訓練過程長的缺點,并且提供了很好的泛化能力。
2,如果網絡需要擴展,寬度學習網絡可以快速重構,無需重新訓練過程。
Preliminaries
1,RVFLNN
- 給定輸入X,它乘上一組隨機的權重,加上隨機的偏差之后傳入到增強層得到H,并且這組權重在以后不會變了。
- 輸入X和增強層的計算結果H合并成一個矩陣,稱為A,A=[X|H],把A作為輸入,乘上權重,加上偏差之后傳到輸出層。
- AW = Y,W=A-1Y,A不是一個方陣,所以是沒有逆矩陣的,但是,沒有逆矩陣,我們可以求A的偽逆。
總結
以上是生活随笔為你收集整理的宽度学习(一):宽度学习体系:有效和高效的无需深度架构的增量学习系统[通俗易懂]的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: vs2010中出现lnk2019和lnk
- 下一篇: python编辑时怎样换行_python