TensorFlow （GAN）

目錄

• TensorFlow （GAN）
• 目錄
  • 1、GAN
    • 1.1 常見神經(jīng)網(wǎng)絡(luò)形式
    • 1.2 生成網(wǎng)絡(luò)
    • 1.3 新手畫家 & 新手鑒賞家
    • 1.4 GAN網(wǎng)絡(luò)
    • 1.5 例子

1、GAN

今天我們會來說說現(xiàn)在最流行的一種生成網(wǎng)絡(luò), 叫做 GAN, 又稱生成對抗網(wǎng)絡(luò), 也是 Generative Adversarial Nets 的簡稱

1.1 常見神經(jīng)網(wǎng)絡(luò)形式

神經(jīng)網(wǎng)絡(luò)分很多種, 有普通的前向傳播神經(jīng)網(wǎng)絡(luò) , 有分析圖片的 CNN 卷積神經(jīng)網(wǎng)絡(luò) , 有分析序列化數(shù)據(jù), 比如語音的 RNN 循環(huán)神經(jīng)網(wǎng)絡(luò) , 這些神經(jīng)網(wǎng)絡(luò)都是用來輸入數(shù)據(jù), 得到想要的結(jié)果, 我們看中的是這些神經(jīng)網(wǎng)絡(luò)能很好的將數(shù)據(jù)與結(jié)果通過某種關(guān)系聯(lián)系起來

1.2 生成網(wǎng)絡(luò)

但是還有另外一種形式的神經(jīng)網(wǎng)絡(luò), 他不是用來把數(shù)據(jù)對應(yīng)上結(jié)果的, 而是用來”憑空”捏造結(jié)果, 這就是我們要說的生成網(wǎng)絡(luò)啦. GAN 就是其中的一種形式. 那么 GAN 是怎么做到的呢? 當(dāng)然這里的”憑空”并不是什么都沒有的空盒子, 而是一些隨機數(shù).

對, 你沒聽錯, 我們就是用沒有意義的隨機數(shù)來生成有有意義的作品, 比如著名畫作. 當(dāng)然, 這還不是全部, 這只是一個 GAN 的一部分而已, 這一部分的神經(jīng)網(wǎng)絡(luò)我們可以想象成是一個新手畫家.

1.3 新手畫家 & 新手鑒賞家

畫家作畫都需要點靈感 , 他們都是依照自己的靈感來完成作品. 有了靈感不一定有用, 因為他的作畫技術(shù)并沒有我們想象得好, 畫出來有可能是一團糟. 這可怎么辦, 聰明的新手畫家找到了自己的一個正在學(xué)鑒賞的好朋友 – 新手鑒賞家.

可是新手鑒賞家也沒什么能耐, 他也不知道如何鑒賞著名畫作 , 所以坐在電腦旁邊的你實在看不下去了, 拿起幾個標(biāo)簽往屏幕上一甩 , 然后新手鑒賞家就被你這樣一次次的甩來甩去著甩乖了, 慢慢也學(xué)會了怎么樣區(qū)分著名畫家的畫了. 重要的是, 新手鑒賞家和新手畫家是好朋友, 他們總愛分享學(xué)習(xí)到的東西.

所以新手鑒賞家告訴新手畫家, “你的畫實在太丑了, 你看看人家達芬奇, 你也學(xué)學(xué)它呀, 比如這里要多加一點, 這里要畫淡一點.” 就這樣, 新手鑒賞家將他從你這里所學(xué)到的知識都分享給了新手畫家, 讓好朋友新手畫家也能越畫越像達芬奇. 這就是 GAN 的整套流程, 我們在來理一下.

新手畫家用隨機靈感畫畫 , 新手鑒賞家會接收一些畫作, 但是他不知道這是新手畫家畫的還是著名畫家畫的, 他說出他的判斷, 你來糾正他的判斷, 新手鑒賞家一邊學(xué)如何判斷, 一邊告訴新手畫家要怎么畫才能畫得更像著名畫家, 新手畫家就能學(xué)習(xí)到如何從自己的靈感畫出更像著名畫家的畫了. GAN 也就這么回事.

1.4 GAN網(wǎng)絡(luò)

Generator 會根據(jù)隨機數(shù)來生成有意義的數(shù)據(jù) , Discriminator 會學(xué)習(xí)如何判斷哪些是真實數(shù)據(jù) , 哪些是生成數(shù)據(jù), 然后將學(xué)習(xí)的經(jīng)驗反向傳遞給 Generator, 讓 Generator 能根據(jù)隨機數(shù)生成更像真實數(shù)據(jù)的數(shù)據(jù). 這樣訓(xùn)練出來的 Generator 可以有很多用途, 比如最近有人就拿它來生成各種臥室的圖片.

甚至你還能玩點新花樣, 比如讓圖片來做加減法, 戴眼鏡的男人 減去 男人 加上 女人, 他居然能生成 戴眼鏡的女人的圖片. 甚至還能根據(jù)你隨便畫的幾筆草圖來生成可能是你需要的藍天白云大草地圖片. 哈哈, 看起來機器也能有想象力啦

1.5 例子

import tensorflow as tf import numpy as np import matplotlib.pyplot as plttf.set_random_seed(1) np.random.seed(1)# Hyper Parameters BATCH_SIZE = 64 LR_G = 0.0001 # learning rate for generator LR_D = 0.0001 # learning rate for discriminator N_IDEAS = 5 # think of this as number of ideas for generating an art work (Generator) ART_COMPONENTS = 15 # it could be total point G can draw in the canvas PAINT_POINTS = np.vstack([np.linspace(-1, 1, ART_COMPONENTS) for _ in range(BATCH_SIZE)])# show our beautiful painting range plt.plot(PAINT_POINTS[0], 2 * np.power(PAINT_POINTS[0], 2) + 1, c='#74BCFF', lw=3, label='upper bound') plt.plot(PAINT_POINTS[0], 1 * np.power(PAINT_POINTS[0], 2) + 0, c='#FF9359', lw=3, label='lower bound') plt.legend(loc='upper right') plt.show()def artist_works(): # painting from the famous artist (real target)a = np.random.uniform(1, 2, size=BATCH_SIZE)[:, np.newaxis]paintings = a * np.power(PAINT_POINTS, 2) + (a-1)return paintingswith tf.variable_scope('Generator'):G_in = tf.placeholder(tf.float32, [None, N_IDEAS]) # random ideas (could from normal distribution)G_l1 = tf.layers.dense(G_in, 128, tf.nn.relu)G_out = tf.layers.dense(G_l1, ART_COMPONENTS) # making a painting from these random ideaswith tf.variable_scope('Discriminator'):real_art = tf.placeholder(tf.float32, [None, ART_COMPONENTS], name='real_in') # receive art work from the famous artistD_l0 = tf.layers.dense(real_art, 128, tf.nn.relu, name='l')prob_artist0 = tf.layers.dense(D_l0, 1, tf.nn.sigmoid, name='out') # probability that the art work is made by artist# reuse layers for generatorD_l1 = tf.layers.dense(G_out, 128, tf.nn.relu, name='l', reuse=True) # receive art work from a newbie like Gprob_artist1 = tf.layers.dense(D_l1, 1, tf.nn.sigmoid, name='out', reuse=True) # probability that the art work is made by artistD_loss = -tf.reduce_mean(tf.log(prob_artist0) + tf.log(1-prob_artist1)) G_loss = tf.reduce_mean(tf.log(1-prob_artist1))train_D = tf.train.AdamOptimizer(LR_D).minimize(D_loss, var_list=tf.get_collection(tf.GraphKeys.TRAINABLE_VARIABLES, scope='Discriminator')) train_G = tf.train.AdamOptimizer(LR_G).minimize(G_loss, var_list=tf.get_collection(tf.GraphKeys.TRAINABLE_VARIABLES, scope='Generator'))sess = tf.Session() sess.run(tf.global_variables_initializer())plt.ion() # something about continuous plotting for step in range(5000):artist_paintings = artist_works() # real painting from artistG_ideas = np.random.randn(BATCH_SIZE, N_IDEAS)G_paintings, pa0, Dl = sess.run([G_out, prob_artist0, D_loss, train_D, train_G], # train and get results{G_in: G_ideas, real_art: artist_paintings})[:3]if step % 50 == 0: # plottingplt.cla()plt.plot(PAINT_POINTS[0], G_paintings[0], c='#4AD631', lw=3, label='Generated painting',)plt.plot(PAINT_POINTS[0], 2 * np.power(PAINT_POINTS[0], 2) + 1, c='#74BCFF', lw=3, label='upper bound')plt.plot(PAINT_POINTS[0], 1 * np.power(PAINT_POINTS[0], 2) + 0, c='#FF9359', lw=3, label='lower bound')plt.text(-.5, 2.3, 'D accuracy=%.2f (0.5 for D to converge)' % pa0.mean(), fontdict={'size': 15})plt.text(-.5, 2, 'D score= %.2f (-1.38 for G to converge)' % -Dl, fontdict={'size': 15})plt.ylim((0, 3)); plt.legend(loc='upper right', fontsize=12); plt.draw(); plt.pause(0.01)plt.ioff() plt.show()

創(chuàng)作挑戰(zhàn)賽新人創(chuàng)作獎勵來咯，堅持創(chuàng)作打卡瓜分現(xiàn)金大獎

總結(jié)

以上是生活随笔為你收集整理的深度学习（11）-- GAN的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。