神经元模型及网络结构
作者: 明天依舊可好
原文鏈接:https://mtyjkh.blog.csdn.net/article/details/111284220
人工神經網絡(Artificial Neural Network,即ANN ),是20世紀80 年代以來人工智能領域興起的研究熱點。它從信息處理角度對人腦神經元網絡進行抽象, 建立某種簡單模型,按不同的連接方式組成不同的網絡。在工程與學術界也常直接簡稱為神經網絡或類神經網絡。神經網絡是一種運算模型,由大量的節點(或稱神經元)之間相互聯接構成。每個節點代表一種特定的輸出函數,稱為激勵函數(activation function)。每兩個節點間的連接都代表一個對于通過該連接信號的加權值,稱之為權重,這相當于人工神經網絡的記憶。網絡的輸出則依網絡的連接方式,權重值和激勵函數的不同而不同。而網絡自身通常都是對自然界某種算法或者函數的逼近,也可能是對一種邏輯策略的表達。(來自:百度百科)
神經網絡包括輸入層、輸出層和中間層(也叫隱藏層)。下圖是一個三層神經網絡,輸入層有3個輸入單元,隱藏層有4個單元,輸出層有2個單元。
注意:
- 1.設計一個神經網絡時,輸入層與輸出層的節點數往往是固定的,中間層則可以自由指定;
- 2.神經網絡結構圖中的拓撲與箭頭代表著預測過程時數據的流向,跟訓練時的數據流有一定的區別;
- 3.結構圖里的關鍵不是圓圈(代表“神經元”),而是連接線(代表“神經元”之間的連接)。每個連接線對應一個不同的權重(其值稱為權值),這是需要訓練得到的。
神經元
神經元模型是一個包含輸入,輸出與計算功能的模型。
結構:
函數表達式:
n=f(wp+b)n=f(wp+b)n=f(wp+b)
- w:為權值
- p:為輸入
- b:偏置值
一個神經網絡的訓練算法就是讓權重的值調整到最佳,以使得整個網絡的預測效果最好。
傳輸函數
也稱激活函數,可以直接當數學里面的函數來理解
多輸入神經元
結構:
函數表達式:
n=w1,1p1+w1,2p2+...+w1,RpR+bn=w_{1,1}p_1+w_{1,2}p_2+...+w_{1,R}p_R+bn=w1,1?p1?+w1,2?p2?+...+w1,R?pR?+b
改寫成矩陣形式
n=wp+bn=wp+bn=wp+b
進而
a=f(wp+b)a=f(wp+b)a=f(wp+b)
網絡結構
單層神經網絡
結構:
函數表達式:
n=wp+bn=wp+bn=wp+b
a=f(wp+b)a=f(wp+b)a=f(wp+b)
www為:
w=[w1,1w1,2?w1,Rw2,1w2,2?w2,R????wS,1wS,1?wS,R]w= \begin{bmatrix} w_{1,1} & w_{1,2} & ?& w_{1,R} \\ w_{2,1} & w_{2,2} & ?&w_{2,R} \\ ?& ? & ?&? \\ w_{S,1} & w_{S,1} & ?&w_{S,R} \\ \end{bmatrix} w=??????w1,1?w2,1??wS,1??w1,2?w2,2??wS,1???????w1,R?w2,R??wS,R????????
- S:神經元個數
- R:輸入值個數
單層神經網絡
結構:
回復神經網絡
結構:
參考書籍:《神經網絡設計》第二版
參考文章:https://www.cnblogs.com/subconscious/p/5058741.html#second
總結
以上是生活随笔為你收集整理的神经元模型及网络结构的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 深度学习-循环神经网络(RNN)
- 下一篇: 一个说明性的实例