BP神经网络基本原理
2.1 BP神經網絡基本原理
???? BP網絡模型處理信息的基本原理是:輸入信號Xi通過中間節點(隱層點)作用于輸出節點,經過非線形變換,產生輸出信號Yk,網絡訓練的每一個樣本包含輸入向量X和期望輸出量t,網絡輸出值Y與期望輸出值t之間的偏差,通過調整輸入節點與隱層節點的聯接強度取值Wij和隱層節點與輸出節點之間的聯接強度Tjk以及閾值,使誤差沿梯度方向下降,經過重復學習訓練,確定與最小誤差相相應的網絡參數(權值和閾值),訓練即告停止。此時經過訓練的神經網絡即能對相似樣本的輸入信息,自行處理輸出誤差最小的經過非線形轉換的信息。
2.2 BP神經網絡模型
BP網絡模型包含其輸入輸出模型、作用函數模型、誤差計算模型和自學習模型。
(1)節點輸出模型
隱節點輸出模型:Oj=f(∑Wij×Xi-q j)??? (1)
輸出節點輸出模型:Yk=f(∑Tjk×Oj-q k) (2)
f-非線形作用函數;q -神經單元閾值。
?
圖1 典型BP網絡結構模型
(2)作用函數模型
作用函數是反映下層輸入對上層節點刺激脈沖強度的函數又稱刺激函數,一般取為(0,1)內連續取值Sigmoid函數:??????????????????????? f(x)=1/(1+e-x)?????????????????? (3)
(3)誤差計算模型
誤差計算模型是反映神經網絡期望輸出與計算輸出之間誤差大小的函數:
??????????????????? Ep=1/2×∑(tpi-Opi)2??????????????? (4)
tpi- i節點的期望輸出值;Opi-i節點計算輸出值。
(4)自學習模型
? 神經網絡的學習過程,即連接下層節點和上層節點之間的權重拒陣Wij的設定和誤差修正過程。BP網絡有師學習方式-須要設定期望值和無師學習方式-僅僅需輸入模式之分。自學習模型為
?????????????????????? △Wij(n+1)= h ×Фi×Oj+a×△Wij(n) (5)
h -學習因子;Фi-輸出節點i的計算誤差;Oj-輸出節點j的計算輸出;a-動量因子。
2.3 BP網絡模型的缺陷分析及優化策略
(1)學習因子h 的優化
採用變步長法依據輸出誤差大小自己主動調整學習因子,來降低迭代次數和加快收斂速度。
?h =h +a×(Ep(n)- Ep(n-1))/ Ep(n) a為調整步長,0~1之間取值 (6)
(2)隱層節點數的優化
???? 隱節點數的多少對網絡性能的影響較大,當隱節點數太多時,會導致網絡學習時間過長,甚至不能收斂;而當隱節點數過小時,網絡的容錯能力差。利用逐步回歸分析法并進行參數的顯著性檢驗來動態刪除一些線形相關的隱節點,節點刪除標準:當由該節點出發指向下一層節點的全部權值和閾值均落于死區(通常取±0.1、±0.05等區間)之中,則該節點可刪除。最佳隱節點數L可參考以下公式計算:
L=(m+n)1/2+c (7)
m-輸入節點數;n-輸出節點數;c-介于1~10的常數。
(3)輸入和輸出神經元的確定
利用多元回歸分析法對神經網絡的輸入參數進行處理,刪除相關性強的輸入參數,來降低輸入節點數。
(4)算法優化
因為BP算法採用的是剃度下降法,因而易陷于局部最小而且訓練時間較長。用基于生物免疫機制地既能全局搜索又能避免未成熟收斂的免疫遺傳算法IGA代替傳統BP算法來克服此缺點。
3. 優化BP神經網絡在系統安全評價中的應用
???? 系統安全評價包含系統固有危急性評價、系統安全管理現狀評價和系統現實危急性評價三方面內容。當中固有危急性評價指標有物質火災爆炸危急性、工藝危急性、設備裝置危急性、環境危急性以及人的不可靠性。
3.1 基于優化BP神經網絡的系統安全評價模型
圖-2 基于優化BP神經網絡的系統安全評價模型
3.2 BP神經網絡在系統安全評價中的應用實現
(1)確定網絡的拓撲結構,包含中間隱層的層數,輸入層、輸出層和隱層的節點數。
(2)確定被評價系統的指標體系包含特征參數和狀態參數
??? 運用神經網絡進行安全評價時,首先必須確定評價系統的內部構成和外部環境,確定能夠正確反映被評價對象安全狀態的主要特征參數(輸入節點數,各節點實際含義及其表達形式等),以及這些參數下系統的狀態(輸出節點數,各節點實際含義及其表達方式等)。
(3)選擇學習樣本,供神經網絡學習
??? 選取多組相應系統不同狀態參數值時的特征參數值作為學習樣本,供網絡系統學習。這些樣本應盡可能地反映各種安全狀態。當中對系統特征參數進行(-∞,∞)區間地預處理,對系統參數應進行(0,1)區間地預處理。神經網絡的學習過程即依據樣本確定網絡的聯接權值和誤差重復修正的過程。
(4)確定作用函數,通常選擇非線形S型函數
(5) 建立系統安全評價知識庫
??? 通過網絡學習確認的網絡結構包含:輸入、輸出和隱節點數以及反映其間關聯度的網絡權值的組合;即為具有推理機制的被評價系統的安全評價知識庫。
(6) 進行實際系統的安全評價
??? 經過訓練的神經網絡將實際評價系統的特征值轉換后輸入到已具有推理功能的神經網絡中,運用系統安全評價知識庫處理后得到評價實際系統的安全狀態的評價結果。實際系統的評價結果又作為新的學習樣本輸入神經網絡,使系統安全評價知識庫進一步充實。
3.3 BP神經網絡理論應用于系統安全評價中的長處
(1)利用神經網絡并行結構和并行處理的特征,通過適當選擇評價項目,能克服安全評價的片面性,能夠全面評價系統的安全狀況和多因數共同作用下的安全狀態。
(2)運用神經網絡知識存儲和自適應特征,通過適應補充學習樣本,能夠實現歷史經驗與新知識完滿結合,在發展過程中動態地評價系統的安全狀態。
(3)利用神經網絡理論的容錯特征,通過選取適當的作用函數和數據結構,能夠處理各種非數值性指標,實現對系統安全狀態的模糊評價。
總結
以上是生活随笔為你收集整理的BP神经网络基本原理的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 初探swift语言的学习笔记五(线程)
- 下一篇: 触屏设备手势简历研究