【深度学习】LeNet-5、AlexNet、VGG16、GoogLeNet、ResNet
生活随笔
收集整理的這篇文章主要介紹了
【深度学习】LeNet-5、AlexNet、VGG16、GoogLeNet、ResNet
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
有多少層并不把池化層算在內。
##?LeNet-5:結構 C-P-C-P-FC-FC,即? 卷積1 - 池化 - 卷積2 - 池化 - 全連接1 - 全連接2 - softmax輸出層
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??
##?AlexNet:結構5個卷積層,3個全連接層,共八層,6千萬參數(即60M個參數)
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?
## VGG16:? ? ?1億個參數(即138M個參數)
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??
? ? ? ? ? ? ? ? ? ? ? ? ??
?
## GoogLeNet:22層,500萬個參數,參數比AlexNet少12倍,采用inception模塊,無全連接層
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?
?
## ResNet:152層,另外還有34層、50層,101層等結構。只有在第一層用的是7*7的卷積核,后面所有層都是用3*3的卷積核。? ? ? ?
? ? ? ? ? ? ? ? ? ? ? ? ? ???
?
## Densenet??CVPR2017
DenseNet和ResNet的一個明顯區別是,ResNet是求和,而DenseNet是做一個拼接,每一層網絡的輸入包括前面所有層網絡的輸出。
DenseNet提升了信息和梯度在網絡中的傳輸效率,每層都能直接從損失函數拿到梯度,并且直接得到輸入信號,這樣就能訓練更深的網絡,這種網絡結構還有正則化的效果。其他網絡致力于從深度和寬度來提升網絡性能,DenseNet致力于從特征重用的角度來提升網絡性能
?? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??
?
?
總結
以上是生活随笔為你收集整理的【深度学习】LeNet-5、AlexNet、VGG16、GoogLeNet、ResNet的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 【深度学习】ResNet的思想
- 下一篇: 【深度学习】L1、L2损失 和 L1、L