稀疏自編碼器符號一覽表

From Ufldl

Jump to: navigation, search

下面是我們在推導sparse autoencoder時使用的符號一覽表：

符號	含義
	訓練樣本的輸入特征，.
	輸出值/目標值. 這里 可以是向量. 在autoencoder中，.
	第 個訓練樣本
	輸入為 時的假設輸出，其中包含參數 . 該輸出應當與目標值 具有相同的維數.
	連接第 層 單元和第 層 單元的參數.
	第 層 單元的偏置項. 也可以看作是連接第 層偏置單元和第 層 單元的參數.
	參數向量. 可以認為該向量是通過將參數 組合展開為一個長的列向量而得到.
	網絡中第 層 單元的激活（輸出）值. 另外，由于 層是輸入層，所以 .
	激活函數. 本文中我們使用 .
	第 層 單元所有輸入的加權和. 因此有 .
	學習率
	第 層的單元數目（不包含偏置單元）.
	網絡中的層數. 通常 層是輸入層， 層是輸出層.
	權重衰減系數.
	對于一個autoencoder，該符號表示其輸出值；亦即輸入值 的重構值. 與 含義相同.
	稀疏值，可以用它指定我們所需的稀疏程度
	（sparse autoencoder中）隱藏單元 的平均激活值.
	（sparse autoencoder目標函數中）稀疏值懲罰項的權重.

總結

以上是生活随笔為你收集整理的稀疏自编码器符号一览表的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。