43 RBF神经网络
1 RBF神經網絡介紹
RBF(Radial Basis Function, RBF)網絡和BP網絡一樣都是非線性多層前向網絡,在任
 何情況下可以互相代替。BP神經網絡是一種全局逼近網絡,學習速率相對慢些,不適合
 實時性等要求較高的場合。而RBF網絡被證明對非線性網絡具有一致逼近性,可以逼近
 任意的非線性函數,結構簡單,并且具有很快的學習收斂速度。因此RBF網絡有較為廣
 泛的應用
 徑向基網絡是一種單隱層前饋神經網絡,使用徑向基函數作為隱層神經元的激活函數,
 而輸出層則是隱層輸出的線性組合。徑向基神經網絡可分為正則化網絡和廣義網絡,廣
 義RBF網絡是由正則化網絡稍加變化得到的,被應用的較多
2 徑向基函數
3 正則化網絡
正則化網絡中,所有的輸入樣本作為徑向基函數的中心Xp,即這里隱層節點數等于輸入
 樣本數P。各徑向基函數選擇統一的標準差σ,從隱層到輸出層之間采用與權值向量
 W加權和的形式進行線性組合
 
4 權值調整——目標輸出
5 權值調整——算法
6 局限性和解決途徑
正則化逼近性能依賴于足夠多的訓練樣本,但是如果訓練樣本的樣本量P過大,需要
 計算P timesP 矩陣的逆,網絡計算量將大的驚人(通用矩陣相乘算法的復雜度是
 O(P 3),優化算法的復雜度是O(P 2.807) ),從而導致過低的效率甚至根本不可能實
 現。
 · 另一個局限性是當一個矩陣很大時,它是病態矩陣的可能性就很高,也就是說Φ中的
 一個微小擾動將對結果W產生很大影響。
 · 這些問題的解決方案是減少隱層神經元的個數,使其階躍輸入維度數和樣本量之間。
 此時求得的解是較低維度空間上的次優解。
7 廣義BPF網絡
廣義RBF網絡是針對正則化網絡的局限性稍加變化得到的,主要體現在徑向基函數的
 中心tj及基函數標準差的選取上,而且在隱層加入了閾值參數來與基函數共同求加權
 和。廣義RBF網絡中隱節點的個數M遠小于樣本個數P,基函數的中心更多的由訓練
 算法確定。
 · 根據徑向基函數中心確定方法的不同,對應有不同的學習策略,常見的有:隨機選取
 固定中心;自組織選取中心;有監督選取中心。
 
8 例子說明
RBF主要是低位映射到高維,通過減去徑向基中心生成高維數據
 正則化RBF網絡是選取所有X作為徑向基中心,廣義RBF是選擇有限數據進行映射
 $ x1x2x_1 x_2x1?x2?
 x1x^1x1 2 4
 x2x^2x2 1 1
 x3x^3x3 3 1
 x4x^4x4 2 2
分別以x1,x2,x3,x4為徑向基中心點求距離,然后再映射后成為四維數據,變成線性可分
 0 10\sqrt{\smash[b]{10}}10? 10\sqrt{\smash[b]{10}}10? 2
 10\sqrt{\smash[b]{10}}10? 0 2 2\sqrt{\smash[b]{2}}2?
 10\sqrt{\smash[b]{10}}10? 2 0 2\sqrt{\smash[b]{2}}2?
 2 2\sqrt{\smash[b]{2}}2? 2\sqrt{\smash[b]{2}}2? 0
徑向基函數生成新數據,x離中心約近y越大,越遠y越小,新數據一定是線性可分的
 
總結
以上是生活随笔為你收集整理的43 RBF神经网络的全部內容,希望文章能夠幫你解決所遇到的問題。
 
                            
                        - 上一篇: VBA:一个Word VBA编程的例子
- 下一篇: 【主动轮廓模型(一)】《Snakes:
