自動(dòng)編碼器（AutoEncoder）是一種可以進(jìn)行無監(jiān)督學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)模型。一般而言，一個(gè)完整的自動(dòng)編碼器主要由兩部分組成，分別是用于核心特征提取的編碼部分和可以實(shí)現(xiàn)數(shù)據(jù)重構(gòu)的解碼部分。

1 自動(dòng)編碼器入門

在自動(dòng)編碼器中負(fù)責(zé)編碼的部分也叫作編碼器（Encoder），而負(fù) 責(zé)解碼的部分也叫作解碼器（Decoder）。編碼器主要負(fù)責(zé)對(duì)原始的輸 入數(shù)據(jù)進(jìn)行壓縮并提取數(shù)據(jù)中的核心特征，而解碼器主要是對(duì)在編碼器 中提取的核心特征進(jìn)行展開并重新構(gòu)造出之前的輸入數(shù)據(jù)。

如上圖就是一個(gè)簡(jiǎn)化的自動(dòng)編碼器模型，它的主要結(jié)構(gòu)是神 經(jīng)網(wǎng)絡(luò)，該模型的最左邊是用于數(shù)據(jù)輸入的輸入層，在輸入數(shù)據(jù)通過神 經(jīng)網(wǎng)絡(luò)的層層傳遞之后得到了中間輸入數(shù)據(jù)的核心特征，這就完成了在 自編碼器中輸入數(shù)據(jù)的編碼過程。然后，將輸入數(shù)據(jù)的核心特征再傳遞 到一個(gè)逆向的神經(jīng)網(wǎng)絡(luò)中，核心特征會(huì)被解壓并重構(gòu)，最后得到了一個(gè) 和輸入數(shù)據(jù)相近的輸出數(shù)據(jù)，這就是自動(dòng)編碼器中的解碼過程。輸入數(shù) 據(jù)通過自動(dòng)編碼器模型的處理后又被重新還原了。

我們會(huì)好奇自動(dòng)編碼器模型這種先編碼后解碼的神經(jīng)網(wǎng)絡(luò)模型到底 有什么作用，下面進(jìn)行講解。自動(dòng)編碼器模型的最大用途就是實(shí)現(xiàn)輸入 數(shù)據(jù)的清洗，比如去除輸入數(shù)據(jù)中的噪聲數(shù)據(jù)、對(duì)輸入數(shù)據(jù)的某些關(guān)鍵特征進(jìn)行增強(qiáng)和放大，等等。舉一個(gè)比較簡(jiǎn)單的例子，假設(shè)我們現(xiàn)在有 一些被打上了馬賽克的圖片需要進(jìn)行除碼處理，這時(shí)就可以通過自動(dòng)編碼器模型來解決這個(gè)問題。其實(shí)可以將這個(gè)除碼的過程看作對(duì)數(shù)據(jù)進(jìn)行除噪的過程，這也是我們接下來會(huì)實(shí)現(xiàn)的實(shí)踐案例。下面看看具體如何實(shí)現(xiàn)基于PyTorch的自動(dòng)編碼器。

2 PyTorch之自動(dòng)編碼實(shí)戰(zhàn)

2.1 通過線性變換實(shí)現(xiàn)自動(dòng)編碼器模型

完成代碼：

import torch import torchvision from torchvision import datasets,transforms from torch.autograd import Variable import numpy as np import matplotlib.pyplot as plttransform = transforms.Compose([transforms.ToTensor(),transforms.Normalize(mean=[0.5],std=[0.5])]) dataset_train = datasets.MNIST(root='./data',transform = transform,train = True,download= False) dataset_test = datasets.MNIST(root= './data',transform=transform,train=False) train_load = torch.utils.data.DataLoader(dataset = dataset_train,batch_size=4,shuffle=True) test_load = torch.utils.data.DataLoader(dataset = dataset_test,batch_size=4,shuffle=True) images,label = next(iter(train_load)) print (images.shape) images_example = torchvision.utils.make_grid(images) images_example = images_example.numpy().transpose(1,2,0) mean = [0.5] std = [0.5] images_example = images_example*std + mean plt.imshow(images_example) plt.show() noisy_images = images_example + 0.5*np.random.randn(*images_example.shape) noisy_images = np.clip(noisy_images,0.,1.) plt.imshow(noisy_images) plt.show()

class AutoEncoder(torch.nn.Module):def __init__(self):super(AutoEncoder, self).__init__()self.encoder = torch.nn.Sequential(torch.nn.Linear(28 * 28, 128),torch.nn.ReLU(),torch.nn.Linear(128, 64),torch.nn.ReLU(),torch.nn.Linear(64, 32),torch.nn.ReLU(),)self.decoder = torch.nn.Sequential(torch.nn.Linear(32, 64),torch.nn.ReLU(),torch.nn.Linear(64, 128),torch.nn.ReLU(),torch.nn.Linear(128, 28 * 28))def forward(self, input):output = self.encoder(input)output = self.decoder(output)return outputmodel = AutoEncoder() print(model)optimizer = torch.optim.Adam(model.parameters()) loss_f = torch.nn.MSELoss()epoch_n = 10 for epoch in range(epoch_n):running_loss = 0print('Epoch {}/{}'.format(epoch, epoch_n))print('===' * 10)for data in train_load:X_train, _ = datanoisy_X_train = X_train + 0.5 * torch.rand(X_train.shape)noisy_X_train = torch.clamp(noisy_X_train, 0., 1.)X_train, noisy_X_train = Variable(X_train.view(-1, 28 * 28)), (noisy_X_train.view(-1, 28 * 28))train_pre = model(noisy_X_train)loss = loss_f(train_pre, X_train)optimizer.zero_grad()loss.backward()optimizer.step()running_loss += loss.dataprint('Loss is:{}'.format(running_loss / len(dataset_train)))

在以上代碼中損失函數(shù)使用的是torch.nn.MSELoss，即計(jì)算的是均方誤差，我們?cè)谥疤幚淼亩际菆D片分類相關(guān)的問題，所以在這里使用交叉熵來計(jì)算損失值。而在這個(gè)問題中我們需要衡量的是圖片在去碼后和原始圖片之間的誤差，所以選擇均方誤差這類損失函數(shù)作為度量。總體的訓(xùn)練流程是我們首先獲取一個(gè)批次的圖片，然后對(duì)這個(gè)批次的圖片進(jìn)行打碼處理并裁剪到指定的像素值范圍內(nèi)，因?yàn)橹罢f過，在MNIST數(shù)據(jù)集使用的圖片中每個(gè)像素點(diǎn)的數(shù)字值在0到1之間。在得到了經(jīng)過打碼處理的圖片后，將其輸入搭建好的自動(dòng)編碼器模型中，經(jīng)過模型處理后輸出一個(gè)預(yù)測(cè)圖片，用這個(gè)預(yù)測(cè)圖片和原始圖片進(jìn)行損失值計(jì)算，通過這個(gè)損失值對(duì)模型進(jìn)行后向傳播，最后就能得到去除圖片馬賽克效果的模型了。

在每輪訓(xùn)練中，我們都對(duì)預(yù)測(cè)圖片和原始圖片計(jì)算得到的損失值進(jìn) 行輸出，在訓(xùn)練10輪之后，輸出的結(jié)果如下：

從以上結(jié)果可以看出，我們得到的損失值在逐漸減小，而且損失值 已經(jīng)在一個(gè)足夠小的范圍內(nèi)了。最后，我們通過使用一部分測(cè)試數(shù)據(jù)集中的圖片來驗(yàn)證我們的模型能否正常工作，代碼如下：

data_loader_test = torch.utils.data.DataLoader(dataset=dataset_test,batch_size = 4,shuffle = True) x_test,_ = next(iter(data_loader_test))img1 = torchvision.utils.make_grid(x_test) img1 = img1.numpy().transpose(1,2,0) std = [0.5] mean = [0.5] img1 =img1*std + meannoisy_x_test = img1 +0.5*np.random.randn(*img1.shape) noisy_x_test = np.clip(noisy_x_test,0.,1.)plt.figure() plt.imshow(noisy_x_test)img2 = x_test + 0.5*torch.randn(*x_test.shape) img2 = torch.clamp(img2,0.,1.)img2 = Variable(img2.view(-1,28*28))test_pred = model(img2)img_test = test_pred.data.view(-1,1,28,28) img2 = torchvision.utils.make_grid(img_test) img2 = img2.numpy().transpose(1,2,0) img2 = img2*std +mean img2 = np.clip(img2,0.,1.) plt.figure() plt.imshow(img2)

下面是使用普通的濾波器的效果：

自動(dòng)編碼器的去噪效果，還是可圈可點(diǎn)的。

2.2 通過卷積變換實(shí)現(xiàn)自動(dòng)編碼器模型

以卷積變換的方式和以線性變換方式構(gòu)建的自動(dòng)編碼器模型會(huì)有較大的區(qū)別，而且相對(duì)復(fù)雜一些，卷積變換的方式僅使用卷積層、最大池化層、上采樣層和激活函數(shù)作為神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的主要組成部分，代碼如下：

class AutoEncoder2(torch.nn.Module):def __init__(self):super(AutoEncoder2, self).__init__()self.encoder = torch.nn.Sequential(torch.nn.Conv2d(1, 64, kernel_size=3, stride=1, padding=1),torch.nn.ReLU(),torch.nn.MaxPool2d(kernel_size=2, stride=2),torch.nn.Conv2d(64, 128, kernel_size=3, stride=1, padding=1),torch.nn.ReLU(),torch.nn.MaxPool2d(kernel_size=2, stride=2))self.decoder = torch.nn.Sequential(torch.nn.Upsample(scale_factor=2, mode='nearest'),torch.nn.Conv2d(128, 64, kernel_size=3, stride=1, padding=1),torch.nn.ReLU(),torch.nn.Upsample(scale_factor=2, mode='nearest'),torch.nn.Conv2d(64, 1, kernel_size=3, stride=1, padding=1))def forward(self, input):output = self.encoder(input)output = self.decoder(output)return output

在以上代碼中出現(xiàn)了一個(gè)我們之前從來沒有接觸過的上采樣層，即 torch.nn.Upsample類。這個(gè)類的作用就是對(duì)我們提取到的核心特征進(jìn)行 解壓，實(shí)現(xiàn)圖片的重寫構(gòu)建，傳遞給它的參數(shù)一共有兩個(gè)，分別是 scale_factor和mode：前者用于確定解壓的倍數(shù)；后者用于定義圖片重構(gòu) 的模式，可選擇的模式有nearest、linear、bilinear和trilinear，其中nearest 是最鄰近法，linear是線性插值法，bilinear是雙線性插值法，trilinear是 三線性插值法。因?yàn)樵谖覀兊拇a中使用的是最鄰近法，所以這里通過 一張圖片來看一下最鄰近法的具體工作方式。

訓(xùn)練代碼如下：

model = AutoEncoder2() print(model)optimizer = torch.optim.Adam(model.parameters()) loss_f = torch.nn.MSELoss()epoch_n = 5 for epoch in range(epoch_n):running_loss = 0print('Epoch {}/{}'.format(epoch, epoch_n))print('===' * 10)for data in train_load:X_train, _ = datanoisy_X_train = X_train + 0.5 * torch.rand(X_train.shape)noisy_X_train = torch.clamp(noisy_X_train, 0., 1.)X_train, noisy_X_train = Variable(X_train), Variable(noisy_X_train)train_pre = model(noisy_X_train)loss = loss_f(train_pre, X_train)optimizer.zero_grad()loss.backward()optimizer.step()running_loss += loss.dataprint('Loss is:{}'.format(running_loss / len(dataset_train)))

我們?cè)诿枯営?xùn)練中都對(duì)預(yù)測(cè)圖片和原始圖片計(jì)算得到的損失值進(jìn)行 輸出，在訓(xùn)練5輪之后，輸出結(jié)果如下：

看一下測(cè)試效果：

data_loader_test = torch.utils.data.DataLoader(dataset=dataset_test,batch_size = 4,shuffle = True) x_test,_ = next(iter(data_loader_test))img1 = torchvision.utils.make_grid(x_test) img1 = img1.numpy().transpose(1,2,0) std = [0.5] mean = [0.5] img1 =img1*std + meannoisy_x_test = img1 +0.5*np.random.randn(*img1.shape) noisy_x_test = np.clip(noisy_x_test,0.,1.)plt.figure() plt.imshow(noisy_x_test)img2 = x_test + 0.5*torch.randn(*x_test.shape) img2 = torch.clamp(img2,0.,1.)img2 = Variable(img2)test_pred = model(img2)img_test = test_pred.data.view(-1,1,28,28) img2 = torchvision.utils.make_grid(img_test) img2 = img2.numpy().transpose(1,2,0) img2 = img2*std +mean img2 = np.clip(img2,0.,1.) plt.figure() plt.imshow(img2)

總結(jié)

以上是生活随笔為你收集整理的Pytorch基础-07-自动编码器的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。