一、遞歸神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的差異：

????????主要是引入了先后、時(shí)序等影響前后關(guān)系的因子

二、網(wǎng)絡(luò)結(jié)構(gòu)：

????????其中h0···ht為中間各個(gè)過(guò)程的結(jié)果，而h0作用于h1,h1作用于h2······其由此循環(huán)，產(chǎn)生一反饋效果

????????一般結(jié)果就是ht

三、改進(jìn):

????????LSTM網(wǎng)絡(luò)：由于RNN最終結(jié)果和前面所有結(jié)果都有關(guān)系，因此可能會(huì)有誤差，因此選擇性消除某些因子，即某些hn

????????網(wǎng)絡(luò)結(jié)構(gòu)對(duì)比：

????????具體結(jié)構(gòu)如下

????????控制參數(shù)：在整個(gè)過(guò)程中需要不斷維護(hù)

????????門(mén)單元：與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)一致

????????決定丟棄信息組件：

????????確定更新的信息組件：

總結(jié)

以上是生活随笔為你收集整理的递归神经网络（RNN）的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。