DL之MobileNet:MobileNet算法的简介(论文介绍)、架构详解、案例应用等配图集合之详细攻略
DL之MobileNet:MobileNet算法的簡介(論文介紹)、架構詳解、案例應用等配圖集合之詳細攻略
?
?
?
目錄
MobileNet算法的簡介(論文介紹)
1、研究背景
2、傳統的模型輕量化常用的方法
3、MobileNet 模型可應用于各種識別任務,以實現高效的設備智能
MobileNet算法的架構詳解
5、實驗思路和結果(Experiments)
MobileNet算法的案例應用
?
?
?
?
相關文章
DL之MobileNet:MobileNet算法的簡介(論文介紹)、架構詳解、案例應用等配圖集合之詳細攻略
DL之MobileNet:MobileNet算法的架構詳解
DL之MobileNetV2:MobileNetV2算法的簡介(論文介紹)、架構詳解、案例應用等配圖集合之詳細攻略
DL之MobileNetV2:MobileNetV2算法的架構詳解(包括ReLu的意義)
MobileNet算法的簡介(論文介紹)
? ? ? 深度學習在圖像分類,目標檢測和圖像分割等任務表現出了巨大的優越性。但是伴隨著模型精度的提升是計算量,存儲空間以及能耗方面的巨大開銷,對于嵌入式應用,比如移動或車載應用都是難以接受的。
?
Abstract ?
? ? ? We present a class of efficient models called MobileNets ?for mobile and embedded vision applications. MobileNets ?are based on a streamlined architecture that uses depthwise ?separable convolutions to build light weight deep ?neural networks. We introduce two simple global hyperparameters ?that efficiently trade off between latency and ?accuracy. These hyper-parameters allow the model builder ?to choose the right sized model for their application based ?on the constraints of the problem. We present extensive ?experiments on resource and accuracy tradeoffs and show ?strong performance compared to other popular models on ?ImageNet classification. We then demonstrate the effectiveness ?of MobileNets across a wide range of applications and ?use cases including object detection, finegrain classification, ?face attributes and large scale geo-localization.
摘要
? ? ? 我們為移動和嵌入式視覺應用提供了一類稱為MobileNets的高效模型。Mobilenets基于一種流線型的架構,它使用縱向的可分離卷積來構建輕量級的深層神經網絡。我們引入了兩個簡單的全局超參數,有效地在延遲和精度之間進行權衡。這些超參數允許模型生成器根據問題的約束為其應用程序選擇合適大小的模型。我們在資源和精度權衡方面進行了廣泛的實驗,并在圖像網分類方面與其他流行的模型相比表現出很強的性能。然后,我們展示了MobileNet在廣泛應用和使用案例中的有效性,包括目標檢測、細粒度分類、人臉屬性和大規模地理定位。
Conclusion
? ? ? We proposed a new model architecture called MobileNets ?based on depthwise separable convolutions. We ?investigated some of the important design decisions leading ?to an efficient model. We then demonstrated how to build ?smaller and faster MobileNets using width multiplier and ?resolution multiplier by trading off a reasonable amount of ?accuracy to reduce size and latency. We then compared different ?MobileNets to popular models demonstrating superior ?size, speed and accuracy characteristics. We concluded ?by demonstrating MobileNet’s effectiveness when applied ?to a wide variety of tasks. As a next step to help adoption ?and exploration of MobileNets, we plan on releasing models ?in TensorFlow.
結論
? ? ? 我們提出了一種新的模型體系結構,稱為基于非縱向可分離卷積的MobileNets 。我們研究了導致有效模型的一些重要設計決策。然后,我們演示了如何利用寬度倍增器和分辨率倍增器來構建更小更快的移動網絡,通過犧牲合理的精度來減少大小和延遲。然后,我們將不同的MobileNets 與流行的模型進行了比較,顯示出優越的尺寸、速度和精度特性。最后,我們展示了Mobilenet在廣泛應用于各種任務時的有效性。作為幫助采用和探索MobileNets的下一步,我們計劃在TensorFlow中發布模型。
論文
Andrew G. Howard, MenglongZhu, Bo Chen, Dmitry Kalenichenko, et al.
MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications. 2017.
https://arxiv.org/abs/1704.04861
?
?
1、研究背景
? ? ? ? 深度學習在圖像分類,目標檢測和圖像分割等任務表現出了巨大的優越性。但是伴隨著模型精度的提升是計算量,存儲空間以及能耗方面的巨大開銷,對于移動或車載應用都是難以接受的。
?
2、傳統的模型輕量化常用的方法
- (1)、卷積核分解,使用1×N和N×1的卷積核代替N×N的卷積核
- (2)、使用bottleneck結構,以SqueezeNet為代表
- (3)、進行深度壓縮,以低精度浮點數保存,例如Deep Compression,比如將32bit降維到8bit,進行保存!
- (4)、冗余卷積核剪枝及哈弗曼編碼
?
?
3、MobileNet 模型可應用于各種識別任務,以實現高效的設備智能
? ? ?可以應用在各種嵌入式設備上。MobileNet models can be applied to various recognition tasks for efficient on device intelligence
- MobileNet使用了一種稱之為深度可分離卷積,來替代原有的傳統3D卷積,減少了卷積核的冗余表達。
- 計算量和參數數量明顯下降,卷積網絡可以應用在更多的移動端平臺。
深度可分離卷積的相關文章
DL之Xception:Xception算法的簡介(論文介紹)、架構詳解、案例應用等配圖集合之詳細攻略
?
?
MobileNet算法的架構詳解
DL之MobileNet:MobileNet算法的架構詳解
?
5、實驗思路和結果(Experiments)
2、Model Choices
? ? ?修改標準卷積的資源使用情況:This example is for an internal MobileNet layer with ??=3,?=512,?=512,??=14.
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? Imagenet Accuracy vs Mult-Adds?? ? ? ? ? ? ? ? ? ? ? ? ? ?Imagenet Accuracy vs Million Parameters?
? ? ?
?
?
?
MobileNet算法的案例應用
后期更新……
?
?
?
?
?
?
總結
以上是生活随笔為你收集整理的DL之MobileNet:MobileNet算法的简介(论文介绍)、架构详解、案例应用等配图集合之详细攻略的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 成功解决AttributeError:
- 下一篇: Py之keras-resnet:kera