最近放出來(lái)了一篇CVPR2019論文，文章提出了一種新的高效卷積方式：HetConv，在CIFAR10、ImageNet等數(shù)據(jù)集超過(guò)了標(biāo)準(zhǔn)卷積以及DW+PW的高效卷積組合形式，取得了更高的分類(lèi)性能。

論文鏈接：https://arxiv.org/abs/1903.04120

【Motivation】

目前提高CNN性能的主要手段有：

增加模型寬度和深度。這樣帶來(lái)的代價(jià)是計(jì)算量會(huì)變得非常大。

設(shè)計(jì)更高效的卷積結(jié)構(gòu)。比如depthwise conv、pointwise conv、groupwise conv等。這一類(lèi)卷積結(jié)構(gòu)的特點(diǎn)是計(jì)算量相比標(biāo)準(zhǔn)卷積小，代替原始的標(biāo)準(zhǔn)卷積方式可以較少一定的計(jì)算量，同時(shí)保持較高的精度。

為追求更快更小的網(wǎng)絡(luò)結(jié)構(gòu)，用剪枝（model pruning）的手段進(jìn)行模型壓縮（model compression），包括connection pruning、filter pruning、quantization等方式。模型剪枝的方式在某些方面很有效，缺點(diǎn)是得到一個(gè)好的模型通常需要大量的訓(xùn)練時(shí)間。訓(xùn)練-剪枝-再訓(xùn)練（fine-tune）的方式帶來(lái)的計(jì)算資源和時(shí)間成本非常大，且最后不一定能得到令人滿(mǎn)意的壓縮模型。

目前來(lái)看，性?xún)r(jià)比最高的就是采用高效的輕量級(jí)網(wǎng)絡(luò)，代表性的有：Xception、MobileNet系列、ShuffleNet系列。為了取得更高的性能，必須要精心設(shè)計(jì)網(wǎng)絡(luò)結(jié)構(gòu)，實(shí)現(xiàn)accuracy-speed trade-off。

設(shè)計(jì)一個(gè)新的有效的網(wǎng)絡(luò)結(jié)構(gòu)不是一件容易的事，需要不斷的試錯(cuò)、總結(jié)，文章從卷積方式入手，提出了一種新的卷積方式來(lái)代替原來(lái)的卷積，取得了更好的實(shí)驗(yàn)效果。

像標(biāo)準(zhǔn)卷積、DW、PW、GW式的卷積的一個(gè)共同點(diǎn)就是所有的卷積核大小一致，稱(chēng)為“Homogeneous Convolution”，比如3x3x256的conv2d，每個(gè)卷積核的尺寸都是3x3大小。

文章提出的“Heterogeneous Convolution”，顧名思義，就是卷積核的尺寸大小不一。比如在有256個(gè)通道的卷積核中，一部分kernel size為1，另一部分kernel size為3。

HetConv帶來(lái)的好處是可以無(wú)縫替換VGG、ResNet、MobileNet等結(jié)構(gòu)的卷積形式，這種新的卷積形式，可以向標(biāo)準(zhǔn)卷積一樣，從新開(kāi)始訓(xùn)練，得到比pruning更好的性能效果。文章還指出，HetConv與標(biāo)準(zhǔn)卷積一樣，實(shí)現(xiàn)latency zero。

【Method】

HetConvolution的方式很簡(jiǎn)單，就是將一部分卷積核尺寸設(shè)置為K，另一部分設(shè)置為1。更直觀的可以看下圖。

計(jì)算量的分析：

【標(biāo)準(zhǔn)卷積】計(jì)算量：

其中

是卷積輸出特征圖的尺寸，M是輸入通道數(shù)，N是輸出通道數(shù)，K是卷積核尺寸。

HetConvolution：假設(shè)輸入通道數(shù)為M，有比例為P的卷積核尺寸為K，這樣的kernel數(shù)為

，其他都是大小，這樣的kernel數(shù)為 ，

那么

卷積的計(jì)算量為：

卷積的計(jì)算量為：

因此總的計(jì)算量為：

HetConvolution與標(biāo)準(zhǔn)卷積的計(jì)算量之比：

當(dāng)P=1時(shí)，HetConv變?yōu)闃?biāo)準(zhǔn)卷積，計(jì)算量之比為1。

【DW+PW】計(jì)算量：

（原文有誤）

DW+PW與標(biāo)準(zhǔn)卷積的計(jì)算量之比：

由公式(3)可知，增大P，HetConv變?yōu)闃?biāo)準(zhǔn)卷積，控制P的大小，可以控制accuracy和FLOPs。

極端情況下，P=M的時(shí)候，公式（3）和（5）：

因此，MobileNet比HetConvolution計(jì)算量更大。

【GW+PW】計(jì)算量：

與標(biāo)準(zhǔn)卷積的計(jì)算量之比：

由公式（3）和（8）可知，P=G的時(shí)候：

HetConv的計(jì)算量比GW+PW更少。

【Experiments】

作者選取了VGG、ResNet、MobileNet等網(wǎng)絡(luò)，通過(guò)在CIFAR-10、ImageNet數(shù)據(jù)集上的實(shí)驗(yàn)驗(yàn)證HetConv的有效性。

【總結(jié)】

文章提出了一種新的卷積方式，通過(guò)計(jì)算FLOPs和實(shí)驗(yàn)證明，HetConv可以在更少計(jì)算量的上面取得更高的精度，文章也和model conpression進(jìn)行了對(duì)比，從實(shí)驗(yàn)結(jié)果來(lái)看，效果也挺明顯。HetConv可以和現(xiàn)有的網(wǎng)絡(luò)結(jié)構(gòu)結(jié)合，操作簡(jiǎn)單方便。

對(duì)于HeConv的實(shí)用性方面可能還需要時(shí)間來(lái)證明，畢竟理論計(jì)算量和實(shí)際情況還是有些差距，另外作者沒(méi)有在detection、segmentation任務(wù)做實(shí)驗(yàn)，但從分類(lèi)任務(wù)來(lái)說(shuō)，缺少一定的可信度。希望盡快有開(kāi)源實(shí)現(xiàn)。

總結(jié)

以上是生活随笔為你收集整理的和卷积的区别_[CVPR2019]:最新高效卷积方式HetConv的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。