深度折積神經網路各種改進結構塊彙總

學習前言

看了好多程式碼呀，看了後面忘了前面，這個BLOG主要是記錄一些神經網路的改進結構，比如殘差結構那種，記錄下來有助於自己設計一些輕且好的網路。

1、殘差網路

這個網路主要源自於Resnet網路，其作用是：

將靠前若干層的某一層資料輸出直接跳過多層引入到後面資料層的輸入部分。

意味著後面的特徵層的內容會有一部分由其前面的某一層線性貢獻。

實驗表明，殘差網路更容易優化，並且能夠通過增加相當的深度來提高準確率。

最終可以使得網路越來越深，Resnet152就是一個很深很深的網路。

殘差網路的典型結構如下：

2、不同大小折積核並行折積

這個結構主要是在Inception網路結構中出現。

Inception網路採用不同大小的折積核，使得存在不同大小的感受野，最後實現拼接達到不同尺度特徵的融合。

不同大小折積核並行折積的典型結構如下：

3、利用(1,x),(x,1)折積代替(x,x)折積

這種結構主要利用在InceptionV3中。

利用1x7的折積和7x1的折積代替7x7的折積，這樣可以只使用約（1x7 + 7x1) / (7x7) = 28.6%的計算開銷；

利用1x3的折積和3x1的折積代替3x3的折積，這樣可以只使用約（1x3 + 3x1) / (3x3) = 67%的計算開銷。

下圖利用1x7的折積和7x1的折積代替7x7的折積。

下圖利用1x3的折積和3x1的折積代替3x3的折積。

4、採用瓶頸(Bottleneck)結構

這個結構在Resnet裡非常常見，其它網路也有用到。

所謂Bottleneck結構就是首先利用1x1折積層進行特徵壓縮，再利用3x3折積網路進行特徵提取，再利用1x1折積層進行特徵擴張。

該結構相比於直接對輸入進行3x3折積減少了許多引數量。

當輸入為26,26,512時，直接使用3x3、filter為512的折積網路的引數量為512x3x3x512=2,359,296‬。

採用Bottleneck結構的話，假設其首先利用1x1、filter為128折積層進行特徵壓縮，再利用3x3、filter為128的折積網路進行特徵提取，再利用1x1、filter為512的折積層進行特徵擴張，則引數量為 512×1×1×128 + 128×3×3×128 + 128×1×1×512 =‬ 278,528。

可以看出來確實時下降了很多呀。

5、深度可分離折積

深度可分離折積主要在MobileNet模型上應用。

其特點是3x3的折積核厚度只有一層，然後在輸入張量上一層一層地滑動，每一次折積完生成一個輸出通道，當折積完成後，在利用1x1的折積調整厚度。

假設有一個3×3大小的折積層，其輸入通道為16、輸出通道為32。具體為，32個3×3大小的折積核會遍歷16個通道中的每個資料，最後可得到所需的32個輸出通道，所需引數為16×32×3×3=4608個。

應用深度可分離折積，用16個3×3大小的折積核分別遍歷16通道的資料，得到了16個特徵圖譜。在融合操作之前，接著用32個1×1大小的折積核遍歷這16個特徵圖譜，所需引數為16×3×3+16×32×1×1=656個。

6、改進版深度可分離折積+殘差網路

這種結構主要存在在Xception網路中。

改進版深度可分離折積就是調換了一下深度可分離的順序，先進行1x1折積調整通道，再利用3x3折積提取特徵。

和普通的深度可分離折積相比，引數量也會有一定的變化。

改進版深度可分離折積加上殘差網路的結構其實和它的名字是一樣的，很好理解。

如下圖所示：

7、倒轉殘差(Inverted residuals)結構

在ResNet50裡我們認識到一個結構，bottleneck design結構，在3x3網路結構前利用1x1折積降維，在3x3網路結構後，利用1x1折積升維，相比直接使用3x3網路折積效果更好，引數更少，先進行壓縮，再進行擴張。

而Inverted residuals結構，在3x3網路結構前利用1x1折積升維，在3x3網路結構後，利用1x1折積降維，先進行擴張，再進行壓縮。

這種結構主要用在MobilenetV2中。

其主要結構如下：

8、並行空洞折積

這個結構出現在Deeplabv3語意分割中。

其經過並行的空洞折積，分別用不同rate的空洞折積進行特徵提取，再進行合併，再進行1x1折積壓縮特徵。

空洞折積可以在不損失資訊的情況下，加大了感受野，讓每個折積輸出都包含較大範圍的資訊**。如下就是空洞折積的一個示意圖，所謂空洞就是特徵點提取的時候會跨畫素。

以上就是深度折積神經網路各種改進結構塊彙總的詳細內容，更多關於折積神經網路改進結構塊的資料請關注it145.com其它相關文章！