該筆記介紹的是《卷積神經(jīng)網(wǎng)絡(luò)》系列第四周：特殊應(yīng)用（2)神經(jīng)風(fēng)格轉(zhuǎn)換

主要內(nèi)容有：

1.神經(jīng)風(fēng)格轉(zhuǎn)換

2.卷積網(wǎng)絡(luò)隱藏單元可視化顯示

3.神經(jīng)風(fēng)格轉(zhuǎn)換代價(jià)函數(shù)

4.內(nèi)容代價(jià)函數(shù)

5.風(fēng)格代價(jià)函數(shù)

*6.數(shù)據(jù)從一維到三維的推廣

?

?神經(jīng)風(fēng)格轉(zhuǎn)換

把C(content)內(nèi)容圖片轉(zhuǎn)化為風(fēng)格類似S(style)風(fēng)格圖片的G(generated)生成圖片。

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??

卷積網(wǎng)絡(luò)隱藏單元可視化顯示

通過(guò)觀察可視化顯示的不同隱藏單元的輸出結(jié)果真正了解卷積網(wǎng)絡(luò)中深度較大的層真正在做些什么。

可視化圖塊輸出：

從第一層隱藏層第一個(gè)隱藏單元開(kāi)始：尋找當(dāng)前層的最大化激活了隱藏單元激活項(xiàng)的9個(gè)圖片塊。并循環(huán)該層所有單元。對(duì)之后的隱藏層進(jìn)行相同的操作，并輸出該隱藏層的圖片塊。

?

單個(gè)隱藏單元輸出：

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?

在視頻中對(duì)9個(gè)隱藏單元循環(huán)輸出：

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?

?

對(duì)不同隱藏層的輸出：

我的理解：
在淺層隱藏單元通常會(huì)尋找一些簡(jiǎn)單的特征（圖片塊較小）進(jìn)行學(xué)習(xí)，但是到了深層會(huì)檢測(cè)以簡(jiǎn)單的事物（淺層）為基礎(chǔ)更會(huì)復(fù)雜的事物（圖片塊較大）。

文中的論文地址：Visualizing and Understanding Convolutional Networks

神經(jīng)風(fēng)格轉(zhuǎn)換代價(jià)函數(shù)

定義關(guān)于G的代價(jià)函數(shù)J用于評(píng)估生成圖片G的好壞。

? ? ? ? ? ? ? ? ? ? ? ? ?

超參數(shù)α，β用于確定內(nèi)容代價(jià)函數(shù)和風(fēng)格代價(jià)函數(shù)的權(quán)重

生成圖像G:

　　　　a.隨機(jī)初始化G,生成如下圖的白噪聲圖。

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?

　　　　b.使用定義的代價(jià)函數(shù)J(G),使用梯度下降的方法使其最小化。

? ? ? ? ? ? ? ? ? ? ? ? ? ??

逐步處理像素，慢慢的到一個(gè)有著風(fēng)格圖片風(fēng)格的生成圖片

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??

論文地址：A Neural Algorithm of Artistic Style

?

內(nèi)容代價(jià)函數(shù)

內(nèi)容函數(shù)為神經(jīng)風(fēng)格轉(zhuǎn)換代價(jià)函數(shù)的：

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?

定義內(nèi)容代價(jià)函數(shù)：

　　　　a.使用隱藏層l來(lái)計(jì)算內(nèi)容代價(jià),生成圖像G。（l不會(huì)太深也不會(huì)太淺，在中間層）

　　　　b.使用一個(gè)預(yù)訓(xùn)練的卷積模型

　　　　c.讓a^[l](G)(圖片G)與a^[l](C)(圖片C)的l層的激活函數(shù)值

　　　　d.如果內(nèi)容激活函數(shù)相似，這兩個(gè)圖片的內(nèi)容也相似

? ? ? ? ? ? ? ? ? ? ? ? ? ?

使用該激活函數(shù)找到圖片G?

?風(fēng)格代價(jià)函數(shù)

風(fēng)格函數(shù)為神經(jīng)風(fēng)格轉(zhuǎn)換代價(jià)函數(shù)的

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?

為風(fēng)格圖片定義一個(gè)深度測(cè)量：

? ? ? ? ? ? ? ? ? ? ?a.使l層的激活函數(shù)去定義風(fēng)格

　　　　　　b.把圖片風(fēng)格定義為l層各個(gè)通道之間的激活項(xiàng)的相關(guān)系數(shù)

相關(guān)系數(shù)：

相關(guān)系數(shù)為你提供了一種去測(cè)量這些不同特征的方法，它的含義是測(cè)量這些特性在圖片的各個(gè)位置同時(shí)或者不同或者不同時(shí)出現(xiàn)的頻率。

使用相關(guān)系數(shù)來(lái)描述通道的風(fēng)格，是測(cè)量生成圖片的第一個(gè)通道是否與第二個(gè)通道相關(guān)，及特性是否同時(shí)出現(xiàn)或者不同時(shí)出現(xiàn)的頻率，這樣就能測(cè)量生成圖片與輸入風(fēng)格圖片的相似程度。

風(fēng)格矩陣：

計(jì)算不同通道之間的相關(guān)系數(shù)。

在l層風(fēng)格圖片的風(fēng)格矩陣：

計(jì)算k通道和k'通道之間的相關(guān)系數(shù)（k=1,2,3,.....,n）

(i,j,k)為l層激活值的(H,W,C)

在l層生成圖片的風(fēng)格矩陣：

合并對(duì)于單層l的風(fēng)格函數(shù)：

?

*對(duì)每層都使用風(fēng)格函數(shù)相加效果會(huì)更好：

?

轉(zhuǎn)載于:https://www.cnblogs.com/-1024/p/8848163.html

總結(jié)

以上是生活随笔為你收集整理的吴恩达【深度学习工程师】 04.卷积神经网络 第四周特殊应用（2)神经风格转换...的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。