干貨 | 盤點(diǎn)卷積神經(jīng)網(wǎng)絡(luò)中 6 種經(jīng)典卷積操作

深度學(xué)習(xí)的模型大致可以分為兩類，一類是卷積神經(jīng)網(wǎng)絡(luò)，另外一類循環(huán)神經(jīng)網(wǎng)絡(luò)，在計算機(jī)視覺領(lǐng)域應(yīng)用最多的就是卷積神經(jīng)網(wǎng)絡(luò)（CNN）。CNN在圖像分類、對象檢測、語義分割等經(jīng)典的視覺任務(wù)中表現(xiàn)出色，因此也早就有一大批各種各樣的經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)模型與一些鬼斧神工的卷積操作，今天小編就斗膽總結(jié)一波這些經(jīng)典的卷積操作都有哪些？（不完全版本，歡迎補(bǔ)充….）

01 正常的卷積與參數(shù)

一個正常的圖像卷積，其工作方式與原理如下圖所示：

可以看出其基本的參數(shù)有：

卷積核大小（Convolution filter）

圖-1中卷積核大小為ksize x ksize=3x3，步長(stride) 這里指每次移動的像素距離，步長為1，表示卷積核每次移動一個像素距離，依此類推。

填充（padding）

表示卷積核對邊緣的處理方式，常見的填充方式有兩種：same與valid，其中same表示根據(jù)卷積核大小填充ksize/2 。當(dāng)卷積核為3x3時，填充1個像素；5x5時，填充兩個像素，依此類推。Valid表示不填充。輸入與輸出通道數(shù)目從圖二可以看出輸入的6x6x3的圖像數(shù)據(jù)，有三個通道輸入，通過兩個4x4x3的filter之后輸出的是3x3x2的圖像數(shù)據(jù)，有兩個通道輸出。

02 空洞卷積（Dilated Convolution）

看到這些卷積與參數(shù)，第一個變化就出現(xiàn)了，通過改變卷積核大小，擔(dān)心不改變參數(shù)數(shù)目，實(shí)現(xiàn)了卷積核的多尺度，從而實(shí)現(xiàn)了對特征多尺度提取，它就是空洞卷積。圖示如下：

在保持卷積核參數(shù)不變的情況下，擴(kuò)大了感受野區(qū)域?？斩淳矸e在圖像分類、對象檢測、語義分割網(wǎng)絡(luò)模型中均有應(yīng)用。

03 轉(zhuǎn)置卷積(transposed convolution)

轉(zhuǎn)置卷積又被稱為反卷積，此反卷積跟不同于圖像處理中的反模糊卷積。2D轉(zhuǎn)置卷積的計算基本原理如下圖所示：

舉例說明，卷積操作為：

轉(zhuǎn)置卷積操作為：

最終圖示如下：

04 1x1卷積

1x1卷積在輸出指定通道數(shù)目特征圖，升降卷積神經(jīng)網(wǎng)絡(luò)的通道數(shù)上面有特殊用途，在Inception系列網(wǎng)絡(luò)中開始大量應(yīng)用，在網(wǎng)絡(luò)模型結(jié)構(gòu)設(shè)計有重要作用，F(xiàn)aster-RCNN中RPN網(wǎng)絡(luò)就是使用1x1實(shí)現(xiàn)指定通道輸出的典范。1x1卷積圖示如下：

1x1卷積的好處是可以升降維度通道數(shù)目，同時它還是一個channel-wise的卷積操作，可以降低卷積核的參數(shù)數(shù)目，減小模型規(guī)模。此外1x1卷積還有一個很高級隱藏應(yīng)用技巧就是做全局深度池化操作，實(shí)現(xiàn)基于通道數(shù)的池化操作。

05 組合卷積

組合卷積最早見AlexNet模型的相關(guān)論文，集大成者是ShuffleNet網(wǎng)絡(luò)，關(guān)于組合卷積跟正常卷積的區(qū)別，見下圖：

組合卷積主要是基于filter分組，實(shí)現(xiàn)分組卷積，正常的卷積如下：

分組filter之后的分組卷積：

分組卷積的優(yōu)勢是可以更好的結(jié)構(gòu)化學(xué)習(xí)，克服過擬合，減少參數(shù)、產(chǎn)生類似正則化效果，從而提升整個網(wǎng)絡(luò)的精度與效率。

06 深度可分離卷積

深度可分離卷積結(jié)構(gòu)是構(gòu)建輕量化網(wǎng)絡(luò)模型的利器之一，最早出現(xiàn)在相關(guān)的模型結(jié)構(gòu)是以MobileNet為代表的輕量級網(wǎng)絡(luò)模型，應(yīng)用于圖像分類、對象檢測、語義分割當(dāng)場景下。深度可分類卷積的圖示如下：

深度可分離卷積可以大幅減少卷積神經(jīng)網(wǎng)絡(luò)的參數(shù)，因此它在模型層數(shù)不變而模型總參數(shù)量卻可以大幅下降而精度只會稍微損失，因此是模型小型化設(shè)計與輕量化模型推理的很好骨干網(wǎng)絡(luò)。

    
    

     下載1：OpenCV-Contrib擴(kuò)展模塊中文版教程
     
     

    
    
    
    

     在「小白學(xué)視覺」公眾號后臺回復(fù)：擴(kuò)展模塊中文教程，即可下載全網(wǎng)第一份OpenCV擴(kuò)展模塊教程中文版，涵蓋擴(kuò)展模塊安裝、SFM算法、立體視覺、目標(biāo)跟蹤、生物視覺、超分辨率處理等二十多章內(nèi)容。
    
    
    
    

     
     

    
    
    
    

     下載2：Python視覺實(shí)戰(zhàn)項(xiàng)目52講
    
    
    
    

     在「小白學(xué)視覺」公眾號后臺回復(fù)：Python視覺實(shí)戰(zhàn)項(xiàng)目，即可下載包括圖像分割、口罩檢測、車道線檢測、車輛計數(shù)、添加眼線、車牌識別、字符識別、情緒檢測、文本內(nèi)容提取、面部識別等31個視覺實(shí)戰(zhàn)項(xiàng)目，助力快速學(xué)校計算機(jī)視覺。
    
    
    
    

     
     

    
    
    
    

     下載3：OpenCV實(shí)戰(zhàn)項(xiàng)目20講
    
    
    
    

     在「小白學(xué)視覺」公眾號后臺回復(fù)：OpenCV實(shí)戰(zhàn)項(xiàng)目20講，即可下載含有20個基于OpenCV實(shí)現(xiàn)20個實(shí)戰(zhàn)項(xiàng)目，實(shí)現(xiàn)OpenCV學(xué)習(xí)進(jìn)階。
    
    
    
    

     
     

    
    
交流群

歡迎加入公眾號讀者群一起和同行交流，目前有SLAM、三維視覺、傳感器、自動駕駛、計算攝影、檢測、分割、識別、醫(yī)學(xué)影像、GAN、算法競賽等微信群（以后會逐漸細(xì)分），請掃描下面微信號加群，備注：”昵稱+學(xué)校/公司+研究方向“，例如：”張三 + 上海交大 + 視覺SLAM“。請按照格式備注，否則不予通過。添加成功后會根據(jù)研究方向邀請進(jìn)入相關(guān)微信群。請勿在群內(nèi)發(fā)送廣告，否則會請出群，謝謝理解~