用于改善質(zhì)量、穩(wěn)定性和多樣性的可增長式GAN

GANsNVIDIAFly

real or fake ?

real or fake ?

1024 x 1024 images generated using the CELEBA-HQ dataset

來源

• 論文：Progressive Growing of GANs for Improved Quality, Stability, and Variation
• 鏈接：http://research.nvidia.com/publication/2017-10_Progressive-Growing-of
• 推薦理由： Under review as a conference paper at ICLR 2018

摘要

• 描述了生成對抗網(wǎng)絡(luò)的新的訓(xùn)練方法

• 關(guān)鍵思想是通過漸進(jìn)的方式訓(xùn)練生成器和鑒別器：從低分辨率開始，逐步添加新的層次，從而在訓(xùn)練進(jìn)展中增加更精細(xì)的細(xì)節(jié)

• 還提出了一種增加生成圖像變化的簡單方法，并且在無監(jiān)督的CIFAR10中實現(xiàn)了創(chuàng)記錄的8.80的初始分?jǐn)?shù)。

• 此外，描述了幾個實現(xiàn)細(xì)節(jié)，這些細(xì)節(jié)對于抑制生成器和鑒別器之間的不健康競爭非常重要。

• 提出了一個新的衡量GAN結(jié)果的指標(biāo)，無論是在圖像質(zhì)量和變化方面。

• 作為額外的貢獻(xiàn)，構(gòu)建了更高質(zhì)量的CelebA數(shù)據(jù)集。

提出模型

模型圖

逐層遞增的網(wǎng)絡(luò)

以往的 GAN 生成低分辨率圖片穩(wěn)定迅速，但生成高分辨率圖片困難重重。這篇文章從簡單的低分辨率圖片開始同時訓(xùn)練生成器和判別器，然后逐層增加分辨率，讓訓(xùn)練的難度每層只增加一點(diǎn)點(diǎn)。感覺就像是算法里面的暴力搜索到二分法搜索，大大提高了高分辨率圖片的生成速度及質(zhì)量。

其他的一些改進(jìn)

• 以往沒有好的辦法去判斷 GAN 生成的圖片是好是壞，很多時候需要肉眼來看，有很大的主觀性，而且人能檢查的樣本空間不夠大。文章的第 5 節(jié)介紹了如何用統(tǒng)計的方法來直觀的判斷生成樣本的好壞，采用的思路是在各個尺度上抽取 7x7 個像素的局域碎片，比較生成圖片與訓(xùn)練圖片的局域結(jié)構(gòu)相似性。

• GAN 生成圖像的多樣性不好量化，當(dāng)判別器過強(qiáng)時生成器可能會塌縮到單個類。這篇文章不添加任何超參數(shù)，只是將所有屬性在所有空間位置的統(tǒng)計標(biāo)準(zhǔn)差求平均，作為卷積神經(jīng)網(wǎng)絡(luò) Feature Map 的一個常量通道，就得到了更好的多樣性 。

• 使用了一種“l(fā)ocal response normalization”方法來對 FeatureMap 做歸一化，不清楚與 BatchNormalization 的效果相比有沒有提升。

• 在 WGAN-GP 的正規(guī)化項中使用非常大的 gamma 因子，從公式上看當(dāng)生成圖片與訓(xùn)練圖片相差過大時，大的 gamma 因子可以讓生成分布快速漂移到訓(xùn)練圖像分布。

算法結(jié)果

六分鐘的視頻

缺點(diǎn)以及不足

論文最后說了一下還面臨的一些情況：

與真實的寫實主義相比，還有一段路要走：

• 圖片語義敏感性和理解數(shù)據(jù)集的相關(guān)結(jié)束還有很大進(jìn)步空間
• 圖像的微觀結(jié)構(gòu)也有改進(jìn)的余地

reference

http://mp.weixin.qq.com/s/1XkOEIlTD4Igr_Ws2sJvoQ
https://www.leiphone.com/news/201710/tPXkf1dcoGDqv5HD.html
http://research.nvidia.com/publication/2017-10_Progressive-Growing-of

轉(zhuǎn)載于:https://www.cnblogs.com/flyu6/p/8007329.html

《新程序員》：云原生和全面數(shù)字化實踐50位技術(shù)專家共同創(chuàng)作，文字、視頻、音頻交互閱讀

總結(jié)

以上是生活随笔為你收集整理的用于改善质量、稳定性和多样性的可增长式GAN的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。