卷积核个数和输入输出通道数的关系
思考的開始
為什么突然想起來這個(gè)了?卷積大家都太熟系,感覺不用多說了都,我也是這么覺得的。但是,今天發(fā)現(xiàn)一個(gè)問題,就是卷積操作完成從c1通道到c2通道的過程中,到底是需要多少卷積核?又是到底怎么卷的?
問題解決
回答下面的問題就可以順利解決。
1.為什么卷積的效率高?
因?yàn)榫矸e的卷積核是可以進(jìn)行復(fù)用的,所以就不需要訓(xùn)練很多參數(shù),訓(xùn)練的參數(shù)少,可以加速擬合。所以,訓(xùn)練效率很高。可以節(jié)省很多計(jì)算量
2.輸入的每個(gè)通道是否要每個(gè)指定一個(gè)卷積核?
既然是復(fù)用可以節(jié)省計(jì)算量,我們是否可以對(duì)所有的輸入通道都復(fù)用一種卷積核?這個(gè)顯然不行,因?yàn)檫@樣在生成的所有內(nèi)容當(dāng)中,每個(gè)通道的貢獻(xiàn)度都是一樣的,可以理解成將其簡(jiǎn)單加和之后再乘上一個(gè)系數(shù)。那么這時(shí)候如果你在下一層又生成了一個(gè)多通道,那么結(jié)果將是,這些通道的之間的區(qū)別就是乘上了不同的系數(shù)而已,這些生成的通道相當(dāng)于沒有任何意義。
所以對(duì)于輸入的不同意通道需要使用不同的卷積核。
3.輸出是怎么輸出的?
之前,我們已經(jīng)說過了輸入的通道,每個(gè)配一個(gè)卷積核,這樣我們就會(huì)得到輸入通道個(gè)數(shù)的輸出。那么我們輸出什么,直接將這些輸出每個(gè)還作為獨(dú)立的通道輸出嗎?這顯然不對(duì)勁啊。這樣相當(dāng)于輸出還是只考慮了一個(gè)輸入的通道。所以還得將這些得到的通道融合起來。
4.所以怎么融合起來?
乘上一個(gè)可訓(xùn)練的系數(shù)加和嗎?其實(shí)完全沒有必要,因?yàn)橐婚_始乘上的卷積和直接就能取代這個(gè)系數(shù)的作用,并且是針對(duì)各個(gè)元素的,比這個(gè)直接乘上一個(gè)針對(duì)卷積核大小范圍內(nèi)所有元素的,顯然效果更好。
5.融合之后如何擴(kuò)展到多通道?
顯然之前我們使用加和操作進(jìn)行融合,得到的結(jié)果就只剩下一個(gè)通道了,想要擴(kuò)充成多通道,簡(jiǎn)單乘上一個(gè)系數(shù)顯然沒有意義。So we must use the output-channel kernel-groups which has the input-channel kernels per group。這個(gè)東西好像英文表述清楚一點(diǎn)。
結(jié)論
所以需要input-channel×output-channel個(gè)數(shù)的卷積核。
總結(jié)
以上是生活随笔為你收集整理的卷积核个数和输入输出通道数的关系的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 点云网络的论文理解(六)-Frustum
- 下一篇: 什么是mAP?