神经网络学习(一)
這一系列的文章,了解各大唱片《神經網絡設計》這本書的收益和總結。
第一部分介紹了三網融合:
- 感知
- Hamming
- Hopfield
感知機
採用對稱硬極限傳輸函數hardlims的單層感知機
兩輸入感知機,w11 = -1, w22 = 1例如以下
a = hardlims(n) = hardlims([-1 1]p + b)Hamming
Hamming網絡的目標時判定哪個標準向量最接近輸入向量。
判定結果由遞歸層的輸出表示。
- 前饋層
前饋層用于實現每一個標準模式和輸入模式之間的相關檢測或求內積。
為了使得前饋層能夠完畢其功能,能夠用標準模式設置其權值矩陣的行,該權值矩陣用連接矩陣W1表示。
之所以稱該網絡為Hmming網,是由于在前饋層中具有最大輸出的神經元正好相應于輸入模式Hamming距離近期的標準模式。
- 遞歸層
該層的神經元用前饋層的輸出進行初始化,此輸出指出標準模式和輸入向量之間的關系。
描寫敘述競爭的等式為
a2(0) = a1 (初始條件) a2(t+1) = poslin(W2a2(t)) (迭代)Hopfield網絡
這個網絡利用輸入向量對網絡中的神經元進行初始化,然后網絡不斷迭代直至收斂。
假設網絡執行正確,那么終于的輸出結果將是一個標準的向量。
描寫敘述等式為
a(0) = p a(t + 1) = satlins(Wa(t) + b)結束語
個人對三種網絡的理解例如以下
- 感知機是bp前饋網絡的一個單元。并不涉及到反饋。通過反饋機制能夠從數據中學習得到相關的參數。
適合處理那些線性可分的問題。
- Hamming計算出已存儲的標準模式和輸入模式之間的測度距離,通過競爭決定哪一個神經元表示的標準模式最接近于輸入模式。
- Hopfield主要用于聯想存儲中,其存儲的數據能由相關的輸入數據回顧出來。而無需用一個地址對其訪問。即讓數據收斂到我希望的值(聯想存儲),而無需實際的分配地址空間去存儲該值。
版權聲明:本文博主原創文章,博客,未經同意不得轉載。
總結
- 上一篇: Linux中文件权限的一些知识
- 下一篇: Node.js与Sails~Model和