【b站視頻—唐宇迪深度學習網址】
https://www.bilibili.com/video/BV1CE411Q7dn?from=search&seid=4714546485764005493

多層感知機（MLP）

• 多個神經元以全連接層次相連
• 被稱為前饋神經網絡
• 萬能逼近原理：非線性函數的有限次復合能逼近任何函數。
• MLP的困境：

目標函數通常為非凸函數；

極容易陷入局部最優值；

網絡層數增加后，存在梯度消失或梯度爆炸問題。

典型網絡結構

• 卷積神經網絡

適合處理網格型數據：如物體識別、圖片分類；

全連接網絡并不適用于圖像，會出現參數爆炸的問題；

卷積操作：稀疏鏈接、參數共享、等邊表示；

• 循環神經網絡

適合處理自然語言：如機器翻譯、詞性標注、詞向量、語音識別、圖像描述生成；

變體有LSTM、GRU；

• 自編碼器

無監督特征學習；

輸出盡量逼近輸入；

隱層節點通常比輸入??；

非線性：表達能力比PCA更好；

總結

以上是生活随笔為你收集整理的唐宇迪深度学习笔记的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。