Tensorflow Day18 Convolutional Autoencoder
今日目標(biāo)
- 了解 Convolutional Autoencoder
- 實(shí)作 Deconvolutional layer
- 實(shí)作 Max Unpooling layer
- 觀察 code layer 以及 decoder
Github Ipython Notebook 好讀完整版
Introduction
讓我們仔細(xì)來(lái)看一下之前所實(shí)作的 Autoencoder 的網(wǎng)路結(jié)構(gòu)，不管它的?encoder?還是?decoder?都是?fully connected?的結(jié)構(gòu)．那就會(huì)有一個(gè)問題是如果網(wǎng)路的結(jié)構(gòu)換成?convolutional?的樣子，是不是同樣可以 work 呢?答案是可以的，也就是今天要來(lái)看的?convolutional autoencoder．
在 CNN 中，主要有兩個(gè)部分一個(gè)是?convolutional layer，另一個(gè)是?max pooling layer．在 autoencoder 的 encoder 以及 decoder，fully connected 的結(jié)構(gòu)都是相對(duì)應(yīng)的，例如 encoder 中第一層是 784 維降到 300 維，則相對(duì)的在 decoder 中的最後一層就要是 300 維升到 784 維．因此如果在 encoder 的部分有 convolutional layer，則在 decoder 的部分就要有一個(gè)?deconvolutional layer；在 encoder 的部分有 max pooling layer，則在 decoder 的部分就要有一個(gè)?max unpooling layer．
Deconvolution
那在 encoder 中的 deconvolution 要怎麼做呢，以下有一個(gè)簡(jiǎn)單的 gif 例子，而在 tensorflow 的實(shí)現(xiàn)上已經(jīng)有了一個(gè)?tf.nn.conv2d_transpose?來(lái)讓我們直接使用．
這裡會(huì)建立一個(gè)包含兩層 encoder 以及兩層 decoder 的 convolutional autoencoder 來(lái)試試看它重建輸入的能力如何，而這裡的 strides 我們會(huì)設(shè)定成 2，也就是說對(duì)一個(gè) mnist 輸入影像 28?28 維，經(jīng)過 convolutional layer 之後會(huì)變成 14?14 維．達(dá)到維度降低的效果．以下是各層輸出的維度比較．
- x 維度: 28 * 28，channel: 1
- encoder layer1 維度: 14 * 14，channel: 16
- encoder_layer2 維度: 7 * 7，channel: 32
- decoder_layer1 維度: 14 * 14，channel: 16
- decoder_layer2 維度: 28 * 28，channel: 1
- x recontruct = decoder_layer2
(tf.nn.conv2d_transpose?的參數(shù)跟 tf.nn.conv2d 很像，只是要多一個(gè)?output_shape)
Build convolution and deconvolution function
| 12345 | def conv2d(x, W): return tf.nn.conv2d(x, W, strides=[1, 2, 2, 1], padding = 'SAME')def deconv2d(x, W, output_shape): return tf.nn.conv2d_transpose(x, W, output_shape, strides = [1, 2, 2, 1], padding = 'SAME') |
Build compute graph
| 123456789101112131415161718192021222324252627 | tf.reset_default_graph()x = tf.placeholder(tf.float32, shape = [None, 784])x_origin = tf.reshape(x, [-1, 28, 28, 1])W_e_conv1 = weight_variable([5, 5, 1, 16], "w_e_conv1")b_e_conv1 = bias_variable([16], "b_e_conv1")h_e_conv1 = tf.nn.relu(tf.add(conv2d(x_origin, W_e_conv1), b_e_conv1))W_e_conv2 = weight_variable([5, 5, 16, 32], "w_e_conv2")b_e_conv2 = bias_variable([32], "b_e_conv2")h_e_conv2 = tf.nn.relu(tf.add(conv2d(h_e_conv1, W_e_conv2), b_e_conv2))code_layer = h_e_conv2print("code layer shape : %s" % h_e_conv2.get_shape())W_d_conv1 = weight_variable([5, 5, 16, 32], "w_d_conv1")b_d_conv1 = bias_variable([1], "b_d_conv1")output_shape_d_conv1 = tf.pack([tf.shape(x)[0], 14, 14, 16])h_d_conv1 = tf.nn.relu(deconv2d(h_e_conv2, W_d_conv1, output_shape_d_conv1))W_d_conv2 = weight_variable([5, 5, 1, 16], "w_d_conv2")b_d_conv2 = bias_variable([16], "b_d_conv2")output_shape_d_conv2 = tf.pack([tf.shape(x)[0], 28, 28, 1])h_d_conv2 = tf.nn.relu(deconv2d(h_d_conv1, W_d_conv2, output_shape_d_conv2))x_reconstruct = h_d_conv2print("reconstruct layer shape : %s" % x_reconstruct.get_shape()) |
Build cost function
| 12 | cost = tf.reduce_mean(tf.pow(x_reconstruct - x_origin, 2))optimizer = tf.train.AdamOptimizer(0.01).minimize(cost) |
Training
| 12345678910111213141516 | sess = tf.InteractiveSession()batch_size = 60init_op = tf.global_variables_initializer()sess.run(init_op)for epoch in range(5000):batch = mnist.train.next_batch(batch_size) if epoch < 1500: if epoch%100 == 0:print("step %d, loss %g"%(epoch, cost.eval(feed_dict={x:batch[0]}))) else: if epoch%1000 == 0: print("step %d, loss %g"%(epoch, cost.eval(feed_dict={x:batch[0]})))optimizer.run(feed_dict={x: batch[0]}) print("final loss %g" % cost.eval(feed_dict={x: mnist.test.images})) |
Plot reconstructed images
這裡我們可以看到它重建的結(jié)果很不錯(cuò)，尤其 mean square err 都低很多，可見 convolution 實(shí)在是滿強(qiáng)大的．接下來(lái)我們要輸入一個(gè)數(shù)字 (7) 看它在 code layer 經(jīng)過 filter 之後的樣子是如何，這裡印出前 16 個(gè)結(jié)果．
Plot code layer result
可以看到不是所有的 filter 輸出都有結(jié)果，很多都是完全是 0．而有值的輸出，可以隱隱約約看到有數(shù)字的形狀．
Max Unpooling
那在?Max Unpooling?要如何實(shí)現(xiàn)呢？最簡(jiǎn)單的想法是怎麼來(lái)就怎麼回去，encoder 在做 max pooling 的時(shí)候記下取 max 的索引值，而在 unpooling 的時(shí)候依據(jù)索引回填數(shù)值，其他沒有記錄到的地方則為零．
使用?tf.nn.max_pool_with_argmax?這個(gè)函數(shù)，它除了會(huì)回傳 pooling 的結(jié)果外也會(huì)回傳對(duì)應(yīng)原本的索引值 (argmax)，如下．
The indices in argmax are flattened, so that a maximum value at position [b, y, x, c] becomes flattened index ((b?height + y)?width + x) * channels + c.
理論上在做 unpooling 的時(shí)就會(huì)用到這裡產(chǎn)生的對(duì)應(yīng)表．不過目前 tensorflow 中沒有 unpooling 這個(gè) op (可以參考?issue)．因此以下展示了兩種方法作 unpooling 也都不會(huì)用到 argmax．
使用 Github Issue 討論中的方法，也就是放大兩倍後在固定的地方填值 (ex. 左上角)
借用影像的 upsample 函數(shù)?tf.image.resize_nearest_neighbor?來(lái)做等比例放大，也就不會(huì)補(bǔ) 0．
註:
- 在 encoder 中都是一個(gè) convolutional layer 接一個(gè) max pooling，因此 convolutional layer 的 strides 就調(diào)回為 1，只讓 max pooling 做降維．
- 經(jīng)過測(cè)試以後 encoder 使用 relu；decoder 使用 sigmoid，才有比較好的還原效果，都使用 relu 會(huì)訓(xùn)練失敗．
Build helper functions
| 12345678910111213141516 | def conv2d(x, W): return tf.nn.conv2d(x, W, strides=[1, 1, 1, 1], padding = 'SAME')def deconv2d(x, W, output_shape): return tf.nn.conv2d_transpose(x, W, output_shape, strides = [1, 1, 1, 1], padding = 'SAME')def max_unpool_2x2(x, output_shape):out = tf.concat_v2([x, tf.zeros_like(x)], 3)out = tf.concat_v2([out, tf.zeros_like(out)], 2)out_size = output_shape return tf.reshape(out, out_size)def max_pool_2x2(x):_, argmax = tf.nn.max_pool_with_argmax(x, ksize=[1,2,2,1], strides=[1,2,2,1], padding = 'SAME')pool = tf.nn.max_pool(x, ksize = [1, 2, 2, 1], strides = [1, 2, 2, 1], padding = 'SAME') return pool, argmax |
Build compute graph
| 1234567891011121314151617181920212223242526272829303132333435363738394041 | tf.reset_default_graph()x = tf.placeholder(tf.float32, shape = [None, 784])x_origin = tf.reshape(x, [-1, 28, 28, 1])W_e_conv1 = weight_variable([5, 5, 1, 16], "w_e_conv1")b_e_conv1 = bias_variable([16], "b_e_conv1")h_e_conv1 = tf.nn.relu(tf.add(conv2d(x_origin, W_e_conv1), b_e_conv1))h_e_pool1, argmax_e_pool1 = max_pool_2x2(h_e_conv1)W_e_conv2 = weight_variable([5, 5, 16, 32], "w_e_conv2")b_e_conv2 = bias_variable([32], "b_e_conv2")h_e_conv2 = tf.nn.relu(tf.add(conv2d(h_e_pool1, W_e_conv2), b_e_conv2))h_e_pool2, argmax_e_pool2 = max_pool_2x2(h_e_conv2)code_layer = h_e_pool2print("code layer shape : %s" % code_layer.get_shape())W_d_conv1 = weight_variable([5, 5, 16, 32], "w_d_conv1")b_d_conv1 = bias_variable([1], "b_d_conv1")# convolutional layer 不改變輸出的 shapeoutput_shape_d_conv1 = tf.pack([tf.shape(x)[0], 7, 7, 16])h_d_conv1 = tf.nn.sigmoid(deconv2d(code_layer, W_d_conv1, output_shape_d_conv1))# max unpool layer 改變輸出的 shape 為兩倍output_shape_d_pool1 = tf.pack([tf.shape(x)[0], 14, 14, 16])h_d_pool1 = max_unpool_2x2(h_d_conv1, output_shape_d_pool1)W_d_conv2 = weight_variable([5, 5, 1, 16], "w_d_conv2")b_d_conv2 = bias_variable([16], "b_d_conv2")# convolutional layer 不改變輸出的 shapeoutput_shape_d_conv2 = tf.pack([tf.shape(x)[0], 14, 14, 1])h_d_conv2 = tf.nn.sigmoid(deconv2d(h_d_pool1, W_d_conv2, output_shape_d_conv2))# max unpool layer 改變輸出的 shape 為兩倍output_shape_d_pool2 = tf.pack([tf.shape(x)[0], 28, 28, 1])h_d_pool2 = max_unpool_2x2(h_d_conv2, output_shape_d_pool2)x_reconstruct = h_d_pool2print("reconstruct layer shape : %s" % x_reconstruct.get_shape()) |
Training
step 0, loss 0.143627 step 100, loss 0.0930532 step 200, loss 0.0884409 step 300, loss 0.0928427 step 400, loss 0.0909152 step 500, loss 0.0826991 step 600, loss 0.0848275 step 700, loss 0.0810827 step 800, loss 0.0864824 step 900, loss 0.086182 step 1000, loss 0.0865941 step 1100, loss 0.0828469 step 1200, loss 0.091879 step 1300, loss 0.0909268 step 1400, loss 0.0917193 step 2000, loss 0.0869293 step 3000, loss 0.078727 step 4000, loss 0.0829563 final loss 0.0858374Plot recontructed images
可以看到重建的影像有成功，但是有點(diǎn)狀的稀疏情形，因?yàn)樵诮?jīng)過 unpooling 的時(shí)候使採(cǎi)取補(bǔ) 0 的動(dòng)作．
Plot code layer result
而在 code layer 中會(huì)發(fā)現(xiàn)也是部分的 filter 有值，另外許多部分都為 0．
接下來(lái)觀察 deconvolution 1 的輸出，以及經(jīng)過 unpooling 後的 pool 1 輸出，會(huì)很明顯地看到 unpooling 輸出有等比例放大，但是會(huì)有稀疏的情形，這就是因?yàn)檠a(bǔ) 0 的緣故．
接下來(lái)使用?tf.image.resize_nearest_neighbor?的方法來(lái)做還原
Build helper functions
| 1234567891011121314 | def conv2d(x, W): return tf.nn.conv2d(x, W, strides=[1, 1, 1, 1], padding = 'SAME')def deconv2d(x, W, output_shape): return tf.nn.conv2d_transpose(x, W, output_shape, strides = [1, 1, 1, 1], padding = 'SAME')def max_pool_2x2(x):_, argmax = tf.nn.max_pool_with_argmax(x, ksize=[1,2,2,1], strides=[1,2,2,1], padding = 'SAME')pool = tf.nn.max_pool(x, ksize = [1, 2, 2, 1], strides = [1, 2, 2, 1], padding = 'SAME') return pool, argmaxdef max_unpool_2x2(x, shape):inference = tf.image.resize_nearest_neighbor(x, tf.pack([shape[1]*2, shape[2]*2])) return inference |
Training
step 0, loss 0.117823 step 100, loss 0.022254 step 200, loss 0.0202093 step 300, loss 0.0189887 step 400, loss 0.0180246 step 500, loss 0.0189967 step 600, loss 0.0178063 step 700, loss 0.0176837 step 800, loss 0.0180569 step 900, loss 0.0173936 step 1000, loss 0.0176715 step 1100, loss 0.0180319 step 1200, loss 0.0170217 step 1300, loss 0.0181365 step 1400, loss 0.0164201 step 2000, loss 0.0178452 step 3000, loss 0.0171906 step 4000, loss 0.0164161 final loss 0.0172661Plot reconstructed images
Bingo!可以看到效果算不錯(cuò)的重建影像，而且不會(huì)有前一種方法的稀疏情形．
Plot code layer result
可以看到 convolutional layer 的輸出在 unpooling 中被很平滑的放大兩倍．
今日心得
這裡實(shí)現(xiàn)了 convolutional autoencoder，包含使用了?deconvolution?以及?max unpooling?兩個(gè)方法來(lái)組成 decoder．其中 deconvolution 使用了官方的 op，而 max unpooling 則使用了兩種非官方的方法，其中用 tf.image.resize_nearest_neighbor 的方法所做的 unpooling 效果較好．
遇到最困難的點(diǎn)會(huì)是一開始在 decoder 都使用 relu 作 activation function，但是完全得不出好的重建影像，而後來(lái)改用 sigmoid 後才成功．我想是因?yàn)?relu 會(huì)讓小於 0 的部分都等於 0，失去了影響後面網(wǎng)路的能力．或許在更大且複雜的網(wǎng)路，或是較長(zhǎng)的訓(xùn)練時(shí)間，才有可能成功．
問題
- conv2d_transpose 是如何利用 padding 調(diào)整輸出大小的呢?
- convolutional autoencoder 和 autoencoder mean square error 似乎低很多，why?
學(xué)習(xí)資源連結(jié)
- github convolutional autoencoder example
- tensorflow conv2d_transpose doc
- tensorflow max pool with argmax doc
- max unpool implement
原文地址：?https://blog.c1mone.com.tw/tensorflow-note-day-16.html
總結(jié)
以上是生活随笔為你收集整理的Tensorflow Day18 Convolutional Autoencoder的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： Tensorflow Day19 Den
- 下一篇： Tensorflow Day17 Spa