介紹

我們知道，把神經(jīng)網(wǎng)絡(luò)拆解，可以把它歸結(jié)為幾個(gè)元素的排列組合而成，例如，以卷積神經(jīng)網(wǎng)絡(luò)為例，其主要由卷積層，池化層，殘差連接，注意力層，全連接層等組成，如果我們把它們抽象，就可抽象為一個(gè)個(gè)cell塊拼接而成。每個(gè)cell塊內(nèi)部可由卷積操作(例如分組卷積，分組數(shù)為2或者4)，卷積后通道數(shù)，卷積核大小，內(nèi)部殘差連接，復(fù)制前面模塊的數(shù)量等參數(shù)構(gòu)成。而cell塊之間又可相互連接構(gòu)成稀疏或者稠密連接構(gòu)成整體的網(wǎng)絡(luò)。

神經(jīng)結(jié)構(gòu)搜索(NAS)能夠自動(dòng)搜索構(gòu)建神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，它以上述的cell塊組成部分以及cell塊之間的關(guān)聯(lián)關(guān)系作為搜索空間，自動(dòng)探測(cè)符合任務(wù)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。這篇論文就是基于神經(jīng)結(jié)構(gòu)搜索自動(dòng)搜索構(gòu)建出超分辨率網(wǎng)絡(luò)結(jié)構(gòu)，主要以遺傳算法進(jìn)行建模優(yōu)化。

模型建立

模型的結(jié)構(gòu)示意圖如下:

輸入為低分辨率圖像，中間特征抽取由一個(gè)個(gè)cell模塊組成，最后輸出利用亞像素上采樣獲取。亞像素采樣可由如下圖操作方式處理：

將最后一層卷積層輸出的通道平鋪開來，得到最終的高分辨率圖像。

神經(jīng)架構(gòu)搜索主要是自動(dòng)搜索出特征抽取層。從宏觀上看，搜索空間主要為cell間的連接關(guān)系。定義

表示第 個(gè)cell(表示為 )與第 個(gè)cell(表示為 )間的連接關(guān)系，為1表示存在連接，為0表示不存在連接。而 會(huì)與它后續(xù)的cell間會(huì)存在連接或者不連接的關(guān)系，以 表示。則從宏觀上編碼如下:

從微觀上看，先從cell內(nèi)部上看，設(shè)計(jì)由以下幾個(gè)部分組成搜索空間:

1.卷積，其中卷積采用分組卷積，分組數(shù)可選為[2,4]。輸出的形狀類似于倒置的瓶狀，擴(kuò)展率為2

2.通道數(shù)選擇為:[16,32,48,64]

3.卷積核大小選擇為:[1,3]

4.是否帶有內(nèi)部的殘差連接:[true,false]

5.重復(fù)的塊數(shù):[1,2,4]

那么，總共會(huì)有：

種選擇。該選擇空間定義為 。

ps:論文中說有192種，論文中選擇的搜索空間組成如下圖，沒理解出怎么會(huì)有192種，而且卷積的選擇inverted bottleneck block with an expansion rate of 2也不確定到底怎么處理，具體代碼也沒放出來。這些不影響我們對(duì)整體算法思想的理解，如果有了解的，請(qǐng)?jiān)u論講解下。。。

總共有

個(gè)cell，以 表示 選擇的內(nèi)部組成結(jié)構(gòu)，則微觀上的編碼為:

故整體網(wǎng)絡(luò)的編碼由

組成。

模型生成

模型生成過程以遺傳算法為主，具體為帶精英策略的非支配排序的遺傳算法(NSGA-II)。具體算法步驟如下：

1.初始化。初始化種群

，種群數(shù)量為 。每個(gè)個(gè)體由 個(gè)cell塊組成，cell塊隨機(jī)采樣從 中采樣取得，而cell塊之間的連接為：生成[0,1]之間的隨機(jī)數(shù) ，若 ，在采用隨機(jī)連接，若 ，則采用密度連接，若 ，則不連接。進(jìn)行非支配排序和選擇、交叉、變異后得到第一代種群 。設(shè) 。

2.得到新父種群。對(duì)

進(jìn)行快速非支配排序，計(jì)算擁擠度距離，選擇出 個(gè)個(gè)體。

這里介紹下Paerot支配關(guān)系。

對(duì)于最小化多目標(biāo)問題，對(duì)于多目標(biāo)向量

,任意給定兩個(gè)向量 ：

若對(duì)于

,都有 ，則A支配B

若對(duì)于

,都有 ，且 ，有 ，則A弱支配B。

若對(duì)于

,都有 ，且 ，有 ，則A與B互不支配。

而快速支配排序算法步驟如下：

(1)依次遍歷每個(gè)個(gè)體，記錄下非支配個(gè)體數(shù)量

和支配個(gè)體集合 。設(shè)

(2)取

的個(gè)體，設(shè)置其排序號(hào)為 。

(3)對(duì)序號(hào)為

的個(gè)體的支配集合中的所有個(gè)體做 。 加1，重復(fù)步驟(2),直到排序完畢。

支配排序用到下面這三個(gè)量組成的向量：

(1)PSNR(峰值信噪比)，對(duì)于兩幅圖像，計(jì)算方法如下:

其中n為每像素的比特?cái)?shù).

(2)計(jì)算的花費(fèi)

(3)參數(shù)的數(shù)量

之后計(jì)算擁擠度距離，這里的擁擠度距離計(jì)算方法如下:

(1):對(duì)于排序號(hào)為

的個(gè)體，初始化

(2):針對(duì)目標(biāo)函數(shù)排序，如果排序后個(gè)體在邊界，則設(shè)置擁擠度距離為inf，否則按下式計(jì)算:

具體看參見論文Improved Crowding Distance for NSGA-II。

先按

的大小取個(gè)體，對(duì)于同級(jí)，按擁擠度距離的大小取，共取出 個(gè)。

3.選擇。選擇使用二進(jìn)制錦標(biāo)賽法，即從種群中隨機(jī)選擇2個(gè)個(gè)體，更優(yōu)的留下。

4.交叉。選擇得到的個(gè)體，隨機(jī)選擇位置交互編碼的元素，例如，

對(duì)于模型A，其編碼為

對(duì)于模型B，其編碼為

而生成的模型C，則分別對(duì)

進(jìn)行交叉，得

5.變異。

對(duì)于個(gè)體中的每個(gè)需要變異的cell塊，隨機(jī)生成一個(gè)隨機(jī)數(shù)

若

,則采用隨機(jī)變異的方式，即隨機(jī)從$S$中選擇一個(gè)cell。

若

，則利用基于FLOPS(每秒浮點(diǎn)運(yùn)算次數(shù))歸一化的賭輪盤方式進(jìn)行選擇變異。

若

，則利用基于參數(shù)數(shù)量歸一化的賭輪盤方式進(jìn)行選擇變異。

而對(duì)于整體的cell組成連接結(jié)構(gòu)，則利用RNN構(gòu)成的控制器作為強(qiáng)化模型進(jìn)行選擇變異。結(jié)構(gòu)圖如下：

最后一層輸入由前面所有的嵌入層向量拼接而成，通過一個(gè)三層的全連接網(wǎng)絡(luò)輸出，最后輸出的全連接神經(jīng)元數(shù)量為

，表示連接的概率關(guān)系。

模型由兩個(gè)參數(shù)組成，LSTM參數(shù)

和全連接層參數(shù) ，最后的梯度函數(shù)如下:

其中

表示原始連接狀態(tài)， 為輸出， 為獎(jiǎng)勵(lì)，可為其他變量不變的情況，替換對(duì)于的cell或者宏觀連接方式的PNSR值。

訓(xùn)練得到的網(wǎng)絡(luò)分別對(duì)宏觀結(jié)構(gòu)進(jìn)行變異。

6.令

,將得到的種群與新父種群合并，得到種群 ,重復(fù)步驟2

總結(jié)

NAS可以幫助我們自動(dòng)構(gòu)建神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，只要數(shù)據(jù)足夠，就能夠得到足夠優(yōu)秀的網(wǎng)絡(luò)。人也不失為經(jīng)歷這一過程，通過數(shù)據(jù)，自動(dòng)識(shí)別各種物體，然后最后把識(shí)別的知識(shí)綜合起來做推理。

這篇論文提供了NAS的一種設(shè)計(jì)方式，以cell塊為主，從微觀和宏觀空間上，定義搜索空間，并對(duì)其進(jìn)行編碼，以NSGA-II算法作為優(yōu)化算法，之后組合得到理想的網(wǎng)絡(luò)結(jié)構(gòu)。

參考文獻(xiàn)

Fast, Accurate and Lightweight Super-Resolution with Neural Architecture Search

https://www.jianshu.com/p/ae5157c26af9

https://www.cnblogs.com/bnuvincent/p/5268786.html

https://blog.csdn.net/weixin_43202635/article/details/82708916

Improved Crowding Distance for NSGA-II

總結(jié)

以上是生活随笔為你收集整理的chemdraw怎么连接两个结构_利用神经结构搜索构建快速准确轻量级的超分辨率网络...的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。