1.神經元模型

2.感知機與多層網絡

3.誤差逆傳播算法

(A)BP算法：最小化訓練集D上的累積誤差

標準BP算法：更新規則基于單個Ek推導而得

兩種策略防止過擬合：（1）早停（通過驗證集來判斷，訓練集誤差降低，驗證集誤差升高）（2） 正則化：在誤差目標函數中引入描述網絡復雜度的部分

4.全局最小與局部最小

跳出局部最小的方法：（1）不多參數初始化多個神經網絡。去誤差最小的解做為最終參數（2）模擬退火（3）遺傳算法

5.其他神經網絡

Boltzmann機 RBM受限玻爾茲曼機

自己學習時寫了一些代碼，有的還有一些問題，可以留言討論，習題以后補上

https://github.com/makang101/machinelearning/tree/master/chapter5neuralNetwork

總結

以上是生活随笔為你收集整理的《机器学习》 周志华学习笔记第五章 神经网络（课后习题） python实现的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。