深度神經(jīng)網(wǎng)絡(luò)（Deep Neural Networks， 以下簡稱DNN）是深度學(xué)習(xí)的基礎(chǔ)，而要理解DNN，首先我們要理解DNN模型，下面我們就對DNN的模型與前向傳播算法做一個總結(jié)。

1. 從感知機到神經(jīng)網(wǎng)絡(luò)

　　　　在感知機原理小結(jié)中，我們介紹過感知機的模型，它是一個有若干輸入和一個輸出的模型，如下圖:

　　　　輸出和輸入之間學(xué)習(xí)到一個線性關(guān)系，得到中間輸出結(jié)果：

z=∑i=1mwixi+bz=∑i=1mwixi+b

　　　　接著是一個神經(jīng)元激活函數(shù):

 

sign(z)={?11z<0z≥0sign(z)={?1z<01z≥0

　　　　從而得到我們想要的輸出結(jié)果1或者-1。

　　　　這個模型只能用于二元分類，且無法學(xué)習(xí)比較復(fù)雜的非線性模型，因此在工業(yè)界無法使用。

　　　　而神經(jīng)網(wǎng)絡(luò)則在感知機的模型上做了擴展，總結(jié)下主要有三點：

　　　　1）加入了隱藏層，隱藏層可以有多層，增強模型的表達能力，如下圖實例，當(dāng)然增加了這么多隱藏層模型的復(fù)雜度

總結(jié)

以上是生活随笔為你收集整理的深度神经网络（DNN）模型与前向传播算法的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。