end-to-end 的神经网络
端到端你要抽象式的去理解,就是原始到最終。就是兩端輸入與輸出都已經是最開始的東西與最終的結果了,不可能再加上比原始更加原始的,比最終更加最終的處理了。(是為了方便理解才寫的這么俗氣,不知道對不對?)
end-to-end 的本質是你要解決的問題是多階段的或多步的(跟所謂的raw feature沒啥關系)。如果分階段學習的話,第一階段的最優(yōu)解不能保證第二階段的問題達到最優(yōu)。end-to-end把他們堆在一起來優(yōu)化,確保最后階段的解達到最優(yōu)。(整個輸入到最終輸出無需太多人工設置,從raw data 到最終輸出指標)
(1)端到端指的是輸入是原始數(shù)據(jù),輸出是最后的結果,原來輸入端不是直接的原始數(shù)據(jù),而是在原始數(shù)據(jù)中提取的特征,這一點在圖像問題上尤為突出,因為圖像像素數(shù)太多,數(shù)據(jù)維度高,會產生維度災難,所以原來一個思路是手工提取圖像的一些關鍵特征,這實際就是就一個降維的過程。
(2)那么問題來了,特征怎么提?
特征提取的好壞異常關鍵,甚至比學習算法還重要,舉個例子,對一系列人的數(shù)據(jù)分類,分類結果是性別,如果你提取的特征是頭發(fā)的顏色,無論分類算法如何,分類效果都不會好,如果你提取的特征是頭發(fā)的長短,這個特征就會好很多,但是還是會有錯誤,如果你提取了一個超強特征,比如染色體的數(shù)據(jù),那你的分類基本就不會錯了。
這就意味著,特征需要足夠的經驗去設計,這在數(shù)據(jù)量越來越大的情況下也越來越困難。
于是就出現(xiàn)了端到端網絡,特征可以自己去學習,所以特征提取這一步也就融入到算法當中,不需要人來干預了。
(3)end to end的好處:通過縮減人工預處理和后續(xù)處理,盡可能使模型從原始輸入到最終輸出,給模型更多可以根據(jù)數(shù)據(jù)自動調節(jié)的空間,增加模型的整體契合度。
總之,end-end不是什么新東西,也不是什么神奇的東西,僅僅是直接輸入原始數(shù)據(jù),直接輸出最終目標的一種思想。
?
總結
以上是生活随笔為你收集整理的end-to-end 的神经网络的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 读自动驾驶激光雷达物体检测技术(Lida
- 下一篇: Gradient Descent梯度下降