【星球知识卡片】移动端高效率的分组网络都发展到什么程度了?
大家好,歡迎來到我們的星球知識小卡片專欄,本期給大家分享分組卷積網絡模型的發展現狀。
作者&編輯 | 言有三
1 卷積拆分的高效
我們常見的卷積是一個二維的操作,即一個卷積核在圖像上進行滑動。如果再考慮上各個通道間的信息融合,那么就是一個三維的操作,包含了通道,寬度,高度三個維度。如果將各個維度進行拆分呢?會不會更加高效?
2 分組卷積萌芽
Laurent Sifre在Google實習的時候提出了depthwise separable convolution,從此分組卷積在模型設計中開始萌芽。
3 從Inception到Xception
Google提出的多尺度,更寬的InceptionNet取得了2014年ImageNet競賽的冠軍,比同期的VGG更深但是卻更小,速度更快。Xception則將Inception的思想發揮到了極致,揭開了分組卷積大規模應用的序幕。
4 分組卷積基準
對于大部分同學來說,知道分組卷積就是從MobileNet開始的,它也是當前最重要的分組卷積基準模型。
5 多尺度分組網絡
分組卷積模型的各個分支可以使用不同大小的卷積核,其中典型代表就是SqueezeNet。SqueezeNet是一個非常高效率的模型,它將AlexNet模型壓縮到原來1/50,同時保證性能幾乎不變。
6 其他
除了以上基本的變種,分組網絡還有非常多的新方向,包括:
(1) 多尺度和多感受野分組卷積模型。
(2) 分組可學習的分組卷積模型。
(3) 多精度的分組卷積模型。
(4) 與殘差網絡的結合。
(5) 其他等等。
以上內容,如果你不想自己學習,可以去我們知識星球的網絡結構1000變板塊—分組網絡板塊閱讀,純屬自愿,不愿勿噴。
有三AI知識星球
知識星球是有三AI的付費內容社區,里面包括各領域的模型學習,數據集下載,公眾號的付費圖文原稿,技術總結PPT和視頻,知識問答,書籍下載,項目推薦,線下活動等資源,了解詳細請閱讀以下文章:
【雜談】有三AI知識星球一周年了!為什么公眾號+星球才是完整的?
【雜談】萬萬沒想到,有三還有個保密的‘朋友圈’,那里面都在弄啥!
轉載文章請后臺聯系
侵權必究
往期精選
【雜談】2020年有三AI計算機視覺培養計劃詳解,該不該學&怎么學CV的簡單討論
【年終總結】2019年有三AI做了什么,2020年我們要做什么?
【總結】有三AI秋季劃模型優化組3月直播講了哪些內容,為什么每一個從事深度學習的同學都應該掌握模型優化的內容
【總結】有三AI秋季劃人臉算法組3月直播講了哪些內容,計算機視覺你不可能繞開人臉圖像
【總結】有三AI秋季劃圖像質量組3月直播講了哪些內容,為什么解決好底層圖像處理問題那么重要
總結
以上是生活随笔為你收集整理的【星球知识卡片】移动端高效率的分组网络都发展到什么程度了?的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 【星球知识卡片】残差网络家族10多个变种
- 下一篇: 【星球知识卡片】注意力机制发展如何了,如