Stanford UFLDL教程 稀疏自编码器符号一览表
生活随笔
收集整理的這篇文章主要介紹了
Stanford UFLDL教程 稀疏自编码器符号一览表
小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
稀疏自編碼器符號(hào)一覽表
下面是我們?cè)谕茖?dǎo)sparse autoencoder時(shí)使用的符號(hào)一覽表:
| 符號(hào) | 含義 |
| 訓(xùn)練樣本的輸入特征,. | |
| 輸出值/目標(biāo)值. 這里 可以是向量. 在autoencoder中,. | |
| 第 個(gè)訓(xùn)練樣本 | |
| 輸入為 時(shí)的假設(shè)輸出,其中包含參數(shù) . 該輸出應(yīng)當(dāng)與目標(biāo)值 具有相同的維數(shù). | |
| 連接第 層 單元和第 層 單元的參數(shù). | |
| 第 層 單元的偏置項(xiàng). 也可以看作是連接第 層偏置單元和第 層 單元的參數(shù). | |
| 參數(shù)向量. 可以認(rèn)為該向量是通過(guò)將參數(shù) 組合展開(kāi)為一個(gè)長(zhǎng)的列向量而得到. | |
| 網(wǎng)絡(luò)中第 層 單元的激活(輸出)值. 另外,由于 層是輸入層,所以 . | |
| 激活函數(shù). 本文中我們使用 . | |
| 第 層 單元所有輸入的加權(quán)和. 因此有 . | |
| 學(xué)習(xí)率 | |
| 第 層的單元數(shù)目(不包含偏置單元). | |
| 網(wǎng)絡(luò)中的層數(shù). 通常 層是輸入層, 層是輸出層. | |
| 權(quán)重衰減系數(shù). | |
| 對(duì)于一個(gè)autoencoder,該符號(hào)表示其輸出值;亦即輸入值 的重構(gòu)值. 與 含義相同. | |
| 稀疏值,可以用它指定我們所需的稀疏程度 | |
| (sparse autoencoder中)隱藏單元 的平均激活值. | |
| (sparse autoencoder目標(biāo)函數(shù)中)稀疏值懲罰項(xiàng)的權(quán)重.
from: http://ufldl.stanford.edu/wiki/index.php/%E7%A8%80%E7%96%8F%E8%87%AA%E7%BC%96%E7%A0%81%E5%99%A8%E7%AC%A6%E5%8F%B7%E4%B8%80%E8%A7%88%E8%A1%A8 |
總結(jié)
以上是生活随笔為你收集整理的Stanford UFLDL教程 稀疏自编码器符号一览表的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: Stanford UFLDL教程 可视化
- 下一篇: Stanford UFLDL教程 矢量化