神经算法网络基本原理
生活随笔
收集整理的這篇文章主要介紹了
神经算法网络基本原理
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
深度學習步驟概覽
step1:建立模型
問題:建立什么樣的模型;選擇多少層數,每層選擇多少神經元
激活函數:
為什么引入激活函數:①為了增強網絡表達能力,我們需要激活函數將“線性函數”轉變為“非線性函數”;②非線性函數的激活函數需要有連續性,因為連續非線性激活函數是可導的,可以用最優化的方法來求解。
常見激活函數如下
?前饋神經網絡
?
?輸出層
step2:損失函數(常用損失函數:平方誤差,交叉熵)
?
?step3:參數學習()
?梯度下降法
上面的網絡中學要學習的參數特別多,下面的卷積神經網絡可以大幅度降低需要學習的參數。?
卷積神經網絡
卷積神經網絡結構上的三大特性:局部連接;權重共享;下采樣
建立模型
?
?卷積核
?
?
?多通道卷積
?
?池化層
?輸出層
?交叉熵損失函數
總結
以上是生活随笔為你收集整理的神经算法网络基本原理的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Google学术搜索方法
- 下一篇: Part1_1 pycharm的一些基础