前言

深度學習并沒有想象的那么難，甚至比有些傳統的機器學習更簡單。所用到的數學知識也不需要特別的高深。這篇文章將利用PyTorch來實現線性回歸這個經典的模型。

一、線性回歸理論

線性回歸時利用數理統計中的回歸分析來確定兩種或者兩種以上變量間相互依賴的定量關系的一種統計分析方法，運用十分廣泛?；貧w分析中，只包括一個自變量和一個因變量，且二者的關系可用一條直線近似表示，這種回歸分析稱為一元線性回歸分析。如果回歸分析中包括兩個或兩個以上的自變量，且因變量和自變量之間是線性關系，則稱為多元線性回歸分析。
簡單的說： 線性回歸對于輸入x與輸出y有一個映射f，y=f(x),而f的形式為aX+b。其中a和b是兩個可調的參數，我們訓練的目的就是訓練a，b這兩個參數。

二、PyTorch代碼實現

下面我們來用pyTorch的代碼來做一個詳細的解釋

• 首先，我們需要導入相關的包

# 注意，這里我們使用了一個新庫叫 seaborn 如果報錯找不到包的話請使用pip install seaborn 來進行安裝 import torch from torch.nn import Linear, Module, MSELoss from torch.optim import SGD import numpy as np import pandas as pd import matplotlib import matplotlib.pyplot as plt import seaborn as sns torch.__version__

• 下面定義一個線性函數，這里使用 $y=5x+7$，這里的5和7就是上面說到的參數a和b，我們先使用matplot可視化一下這個函數

x = np.linspace(0,20,500) y = 5*x + 7 plt.plot(x,y)

• 下面生成一些隨機的點，來作為我們的訓練數據

x = np.random.rand(256) noise = np.random.randn(256) / 4 y = x * 5 + 7 + noise df = pd.DataFrame() df['x'] = x df['y'] = y

• 在圖上顯示下我們生成的數據

sns.lmplot(x='x', y='y', data=df)

• 我們隨機生成了一些點，下面將使用PyTorch建立一個線性的模型來對其進行擬合，這就是所說的訓練的過程，由于只有一層線性模型，所以我們就直接使用了

model=Linear(1, 1)

其中參數(1, 1)代表輸入輸出的特征(feature)數量都是1. Linear 模型的表達式是 $y=w?x+b$，其中 $w$ 代表權重， $b$ 代表偏置

• 損失函數我們使用均方損失函數：MSELoss

criterion = MSELoss()

• 優化器我們選擇最常見的優化方法 SGD，就是每一次迭代計算 mini-batch 的梯度，然后對參數進行更新，學習率 0.01

optim = SGD(model.parameters(), lr = 0.01)

• 訓練3000次

epochs = 3000

• 準備訓練數據: x_train, y_train 的形狀是 (256, 1)， 代表 mini-batch 大小為256， feature 為1. astype(‘float32’) 是為了下一步可以直接轉換為 torch.float.

x_train = x.reshape(-1, 1).astype('float32') y_train = y.reshape(-1, 1).astype('float32')

• 開始訓練

for i in range(epochs):# 整理輸入和輸出的數據，這里輸入和輸出一定要是torch的Tensor類型inputs = torch.from_numpy(x_train)labels = torch.from_numpy(y_train)#使用模型進行預測outputs = model(inputs)#梯度置0，否則會累加optim.zero_grad()# 計算損失loss = criterion(outputs, labels)# 反向傳播loss.backward()# 使用優化器默認方法優化optim.step()if (i%100 == 0):#每 100次打印一下損失函數，看看效果print('epoch {}, loss {:1.4f}'.format(i,loss.data.item()))

• 訓練完成了，看一下訓練的成果是多少。用 model.parameters() 提取模型參數。 $w$， $b$ 是我們所需要訓練的模型參數 我們期望的數據 $w=5$，$b=7$ 可以做一下對比

[w, b] = model.parameters() print (w.item(),b.item())

• 再次可視化一下我們的模型，看看我們訓練的數據，如果你不喜歡seaborn，可以直接使用matplot

predicted = model.forward(torch.from_numpy(x_train)).data.numpy() plt.plot(x_train, y_train, 'go', label = 'data', alpha = 0.3) plt.plot(x_train, predicted, label = 'predicted', alpha = 1) plt.legend() plt.show()

參考文獻

https://github.com/zergtant/pytorch-handbook/blob/master/chapter2/2.2-deep-learning-basic-mathematics.ipynb

總結

以上是生活随笔為你收集整理的深度学习练手项目（二）-----利用PyTorch进行线性回归的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。