稀疏自編碼器符號一覽表

From Ufldl

Jump to: navigation, search

下面是我們在推導sparse autoencoder時使用的符號一覽表：

符號	含義
	訓練樣本的輸入特征，.
	輸出值/目標值. 這里 可以是向量. 在autoencoder中，.
	第 個訓練樣本
	輸入為 時的假設輸出，其中包含參數(shù) . 該輸出應當與目標值 具有相同的維數(shù).
	連接第 層 單元和第 層 單元的參數(shù).
	第 層 單元的偏置項. 也可以看作是連接第 層偏置單元和第 層 單元的參數(shù).
	參數(shù)向量. 可以認為該向量是通過將參數(shù) 組合展開為一個長的列向量而得到.
	網(wǎng)絡中第 層 單元的激活（輸出）值. 另外，由于 層是輸入層，所以 .
	激活函數(shù). 本文中我們使用 .
	第 層 單元所有輸入的加權和. 因此有 .
	學習率
	第 層的單元數(shù)目（不包含偏置單元）.
	網(wǎng)絡中的層數(shù). 通常 層是輸入層， 層是輸出層.
	權重衰減系數(shù).
	對于一個autoencoder，該符號表示其輸出值；亦即輸入值 的重構值. 與 含義相同.
	稀疏值，可以用它指定我們所需的稀疏程度
	（sparse autoencoder中）隱藏單元 的平均激活值.
	（sparse autoencoder目標函數(shù)中）稀疏值懲罰項的權重.

總結

以上是生活随笔為你收集整理的稀疏自编码器符号一览表的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。