當前位置：首頁 > 人文社科 > 生活经验 >内容正文

生活经验

房价预测-paddle 实现

發布時間：2023/11/28 生活经验 32 豆豆

生活随笔收集整理的這篇文章主要介紹了房价预测-paddle 实现小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

1-4 使用飛槳重寫【房價預測】模型paddle初級教程第一章第四節王然(學生)Notebook教育初級深度學習Python32019-12-23 14:36:28啟動環境停止部署版本內容數據集在線服務請選擇版本草稿 2019-12-23 14:36:28查看教師發布的版本

當讀者習慣使用飛槳框架完成建模時，會發現程序呈現出“八股文”的形態。即不同的程序員使用不同模型解決不同任務的時候，他們編寫的建模程序是極其相似的。雖然這在某些“極客”的眼里缺乏精彩，但從實用性的角度，這樣的設計使建模者更關注需要解決的任務，而不是將精力投入在學習框架上。只要通過一個示例程序掌握使用飛槳的方法，編寫實現不同任務的多種模型均變得十分容易。

這點與Python的設計思想一致：對于某個特定功能，并不是實現方式越靈活、越多樣越好，最好只有一種最符合“道”的最佳實現。“道”指的是如何人類的思維習慣，當程序員第一次看到Python的很多使用方式，感覺程序天然就應該如此實現。但相信我，不是所有的編程語言都具備這樣合道的設計，很多編程語言的設計思路是人應該去理解機器的運作原理。同時，靈活意味著復雜，增加了程序員之間的溝通難度，也不適合現在工業化生產軟件的現實。

所以，飛槳設計的初衷不僅要易于學習，還期望使用者能夠體會到它的美感和哲學，與人類最自然的認知和習慣相契合。

本書中的案例覆蓋經典的預測任務、推薦系統、計算機視覺和自然語言處理等主流應用場景，但所有的案例代碼結構均完全一致，分為如下5個部分。

１. 數據處理：讀取數據和預處理操作
２. 模型設計：網絡結構（假設）
３. 訓練配置：優化器（尋解算法）
４. 訓練過程：循環調用訓練過程，包括前向計算 + 計算損失（優化目標) + 后向傳播
５. 保存模型并測試：將訓練好的模型保存

下面我們使用飛槳框架，按照五個步驟重寫房價預測的模型，體會下使用飛槳框架的感覺。

In[2]

#加載飛槳、Numpy和相關類庫
import paddle
import paddle.fluid as fluid
import paddle.fluid.dygraph as dygraph
from paddle.fluid.dygraph import FC
import numpy as np
import os
import random

1. 數據處理

這部分代碼不依賴框架實現，與使用Python編寫神經網絡模型的代碼相同，不再贅述。

In[3]

def load_data():# 從文件導入數據datafile = './work/housing.data'data = np.fromfile(datafile, sep=' ')
<span class="hljs-comment"># 每條數據包括14項，其中前面13項是影響因素，第14項是相應的房屋價格中位數</span>
feature_names = [ <span class="hljs-string">'CRIM'</span>, <span class="hljs-string">'ZN'</span>, <span class="hljs-string">'INDUS'</span>, <span class="hljs-string">'CHAS'</span>, <span class="hljs-string">'NOX'</span>, <span class="hljs-string">'RM'</span>, <span class="hljs-string">'AGE'</span>, \<span class="hljs-string">'DIS'</span>, <span class="hljs-string">'RAD'</span>, <span class="hljs-string">'TAX'</span>, <span class="hljs-string">'PTRATIO'</span>, <span class="hljs-string">'B'</span>, <span class="hljs-string">'LSTAT'</span>, <span class="hljs-string">'MEDV'</span> ]
feature_num = len(feature_names)<span class="hljs-comment"># 將原始數據進行Reshape，變成[N, 14]這樣的形狀</span>
data = data.reshape([data.shape[<span class="hljs-number">0</span>] // feature_num, feature_num])<span class="hljs-comment"># 將原數據集拆分成訓練集和測試集</span>
<span class="hljs-comment"># 這里使用80%的數據做訓練，20%的數據做測試</span>
<span class="hljs-comment"># 測試集和訓練集必須是沒有交集的</span>
ratio = <span class="hljs-number">0.8</span>
offset = int(data.shape[<span class="hljs-number">0</span>] * ratio)
training_data = data[:offset]<span class="hljs-comment"># 計算train數據集的最大值，最小值，平均值</span>
maximums, minimums, avgs = training_data.max(axis=<span class="hljs-number">0</span>), training_data.min(axis=<span class="hljs-number">0</span>), \training_data.sum(axis=<span class="hljs-number">0</span>) / training_data.shape[<span class="hljs-number">0</span>]<span class="hljs-comment"># 記錄數據的歸一化參數，在預測時對數據做歸一化</span>
<span class="hljs-keyword">global</span> max_values
<span class="hljs-keyword">global</span> min_values
<span class="hljs-keyword">global</span> avg_values
max_values = maximums
min_values = minimums
avg_values = avgs<span class="hljs-comment"># 對數據進行歸一化處理</span>
<span class="hljs-keyword">for</span> i <span class="hljs-keyword">in</span> range(feature_num):<span class="hljs-comment">#print(maximums[i], minimums[i], avgs[i])</span>data[:, i] = (data[:, i] - avgs[i]) / (maximums[i] - minimums[i])<span class="hljs-comment"># 訓練集和測試集的劃分比例</span>
<span class="hljs-comment">#ratio = 0.8</span>
<span class="hljs-comment">#offset = int(data.shape[0] * ratio)</span>
training_data = data[:offset]
test_data = data[offset:]
<span class="hljs-keyword">return</span> training_data, test_data</code></pre></div></div></div></div><div class="mc mc-container"><div class="mc-aside"></div><div class="mc-main"><div class="mc-preview"><h2>2. 模型設計</h2>

定義線性回歸的網絡結構，飛槳建議通過創建Python類的方式完成模型網絡的定義。

在類的初始化函數中定義每一層網絡的實現函數，這里我們定義了一層全連接層FC，模型結構和1-2 節模型保持一致。
定義forward函數構建神經網絡結構，實現前向計算過程，并返回預測結果，本例中返回的是房價預測結果。

In[4]

class Regressor(fluid.dygraph.Layer):def __init__(self, name_scope):super(Regressor, self).__init__(name_scope)name_scope = self.full_name()# 定義一層全連接層，輸出維度是1，激活函數為None，即不使用激活函數self.fc = FC(name_scope, size=1, act=None)
<span class="hljs-comment"># 網絡的前向計算函數</span>
<span class="hljs-function"><span class="hljs-keyword">def</span> <span class="hljs-title">forward</span><span class="hljs-params">(self, inputs)</span>:</span>x = self.fc(inputs)<span class="hljs-keyword">return</span> x</code></pre></div></div></div></div><div class="mc mc-container"><div class="mc-aside"></div><div class="mc-main"><div class="mc-preview"><h2>3. 訓練配置</h2>

訓練配置包括：

聲明定義好的模型。
加載訓練數據和測試數據。
設置優化算法和學習率，本次實驗優化算法使用隨機梯度下降SGD，學習率使用 0.01。

說明：
在之前基于Python實現神經網絡模型的案例中，我們為實現梯度下降編寫了大量代碼，而使用飛槳框架可以大大簡化這個過程。

In[5]

# 定義飛槳動態圖的工作環境
with fluid.dygraph.guard():# 聲明定義好的線性回歸模型model = Regressor("Regressor")# 開啟模型訓練模式model.train()# 加載數據training_data, test_data = load_data()# 定義優化算法，這里使用隨機梯度下降-SGD# 學習率設置為0.01opt = fluid.optimizer.SGD(learning_rate=0.01)

注意： 上述代碼中，可以發現聲明模型，定義優化器等都在with創建的fluid.dygraph.guard()上下文環境中進行，可以理解為with fluid.dygraph.guard()創建了飛槳動態圖的工作環境，在該環境下完成模型聲明、數據轉換、以及模型訓練等操作。

4. 訓練過程

完成訓練配置后即可啟動訓練過程。訓練采用二層循環嵌套方式：

內層循環負責整個數據集的一次遍歷，遍歷數據集采用分批次（batch）方式，假設數據集樣本數量為1000，一個批次有10個樣本，則遍歷一次數據集的批次數量是1000/10=100，即內層循環需要循環100次；
外層循環定義遍歷數據集的次數，本次訓練中外層循環10次，通過參數EPOCH_NUM設置；

說明:
batch大小的選擇會影響訓練效果，batch過大會增大內存消耗，過小則每個batch的樣本數據沒有統計意義。本次訓練數據集較小，我們設置batch為10。

在每次內層循環都需要進行前向計算、損失函數計算和梯度反向傳播三個步驟，計算的過程與Python編寫的模型完全一致；

前向計算即將一個批次的樣本數據灌入網絡中，計算輸出結果。
以前向計算結果和真實房價作為輸入，通過損失函數square_error_cost計算出損失函數值（Loss）。
執行梯度反向傳播backward函數，即從后到前逐層計算每一層的梯度，并根據設置的優化算法更新參數（opt.minimize）。

這個實現過程令人驚喜，前向計算、計算損失和反向傳播梯度，每個操作居然只有1-2行代碼即可實現！我們再也不用一點點的實現模型訓練的細節，這就是使用飛槳框架的威力！

In[6]

with dygraph.guard():EPOCH_NUM = 10   # 設置外層循環次數BATCH_SIZE = 10  # 設置batch大小
<span class="hljs-comment"># 定義外層循環</span>
<span class="hljs-keyword">for</span> epoch_id <span class="hljs-keyword">in</span> range(EPOCH_NUM):<span class="hljs-comment"># 在每輪迭代開始之前，將訓練數據的順序隨機的打亂</span>np.random.shuffle(training_data)<span class="hljs-comment"># 將訓練數據進行拆分，每個batch包含10條數據</span>mini_batches = [training_data[k:k+BATCH_SIZE] <span class="hljs-keyword">for</span> k <span class="hljs-keyword">in</span> range(<span class="hljs-number">0</span>, len(training_data), BATCH_SIZE)]<span class="hljs-comment"># 定義內層循環</span><span class="hljs-keyword">for</span> iter_id, mini_batch <span class="hljs-keyword">in</span> enumerate(mini_batches):x = np.array(mini_batch[:, :<span class="hljs-number">-1</span>]).astype(<span class="hljs-string">'float32'</span>) <span class="hljs-comment"># 獲得當前批次訓練數據</span>y = np.array(mini_batch[:, <span class="hljs-number">-1</span>:]).astype(<span class="hljs-string">'float32'</span>) <span class="hljs-comment"># 獲得當前批次訓練標簽（真實房價）</span><span class="hljs-comment"># 將numpy數據轉為飛槳動態圖variable形式</span>house_features = dygraph.to_variable(x)prices = dygraph.to_variable(y)<span class="hljs-comment"># 前向計算</span>predicts = model(house_features)<span class="hljs-comment"># 計算損失</span>loss = fluid.layers.square_error_cost(predicts, label=prices)avg_loss = fluid.layers.mean(fluid.layers.sqrt(loss))<span class="hljs-keyword">if</span> iter_id%<span class="hljs-number">20</span>==<span class="hljs-number">0</span>:print(<span class="hljs-string">"epoch: {}, iter: {}, loss is: {}"</span>.format(epoch_id, iter_id, avg_loss.numpy()))<span class="hljs-comment"># 反向傳播</span>avg_loss.backward()<span class="hljs-comment"># 最小化loss,更新參數</span>opt.minimize(avg_loss)<span class="hljs-comment"># 清除梯度</span>model.clear_gradients()
<span class="hljs-comment"># 保存模型</span>
fluid.save_dygraph(model.state_dict(), <span class="hljs-string">'LR_model'</span>)</code></pre><div class="cc-output-item"><div class=""><pre>epoch: 0, iter: 0, loss is: [0.36573568]

epoch: 0, iter: 20, loss is: [0.33971325]
epoch: 0, iter: 40, loss is: [0.5716193]
epoch: 1, iter: 0, loss is: [0.33198822]
epoch: 1, iter: 20, loss is: [0.32750577]
epoch: 1, iter: 40, loss is: [0.20174979]
epoch: 2, iter: 0, loss is: [0.21398032]
epoch: 2, iter: 20, loss is: [0.15974538]
epoch: 2, iter: 40, loss is: [0.08182637]
epoch: 3, iter: 0, loss is: [0.13637844]
epoch: 3, iter: 20, loss is: [0.07012554]
epoch: 3, iter: 40, loss is: [0.12868139]
epoch: 4, iter: 0, loss is: [0.11150487]
epoch: 4, iter: 20, loss is: [0.12286273]
epoch: 4, iter: 40, loss is: [0.28625053]
epoch: 5, iter: 0, loss is: [0.12325518]
epoch: 5, iter: 20, loss is: [0.05488824]
epoch: 5, iter: 40, loss is: [0.04552042]
epoch: 6, iter: 0, loss is: [0.0609853]
epoch: 6, iter: 20, loss is: [0.09205151]
epoch: 6, iter: 40, loss is: [0.08044842]
epoch: 7, iter: 0, loss is: [0.11684053]
epoch: 7, iter: 20, loss is: [0.06271437]
epoch: 7, iter: 40, loss is: [0.03036864]
epoch: 8, iter: 0, loss is: [0.16721788]
epoch: 8, iter: 20, loss is: [0.10716369]
epoch: 8, iter: 40, loss is: [0.21938616]
epoch: 9, iter: 0, loss is: [0.09567357]
epoch: 9, iter: 20, loss is: [0.06019962]
epoch: 9, iter: 40, loss is: [0.08741301]

5. 保存并測試模型

在完成兩層循環的訓練過程后，將模型當前的參數（model.state_dict()）保存到文件中（通過參數指定保存的文件名 LR_model），以備預測或校驗的程序調用。

In[26]

# 定義飛槳動態圖工作環境
with fluid.dygraph.guard():# 保存模型參數，文件名為LR_modelfluid.save_dygraph(model.state_dict(), 'LR_model')print("模型保存成功，模型參數保存在LR_model中")

模型保存成功，模型參數保存在LR_model中

回顧下基于飛槳實現的房價預測模型，實現的效果與之前基于Python實現的模型沒有區別，但兩者的實現成本有天壤之別。飛槳的愿景是用戶只需要了解模型的邏輯概念，不需要關心實現細節，就能搭建強大的模型。

下面我們選擇一條數據樣本，測試下模型的預測效果。測試過程和在應用場景中使用模型的過程是一致的，可分成三個主要步驟。

首先，配置模型預測的機器資源，本案例默認使用本機，所以無需寫代碼指定。
其次，將訓練好的模型參數加載到模型實例中，由兩個語句完成，第一句是從文件中讀取模型參數，第二句是將參數內容加載到模型。加載完畢后，需要將模型的狀態調整為“校驗”（evalueation）。這是因為訓練狀態的模型需要同時支持前向計算和反向傳導梯度，模型的實現較為臃腫。而校驗/預測狀態的模型只需要支持前向計算，模型的實現更加簡單，性能更好。
最后，將待預測的樣本特征輸入到模型中，打印輸出的預測結果。比較“模型預測值”和“真實房價”可見，模型預測的效果與真實房價接近。

load_one_example函數實現了從數據集中抽一條樣本作為測試樣本。

In[64]

def load_one_example(data_dir):f = open(data_dir, 'r')datas = f.readlines()# 選擇倒數第10條數據用于測試tmp = datas[-10]tmp = tmp.strip().split()one_data = [float(v) for v in tmp]
<span class="hljs-comment"># 對數據進行歸一化處理</span>
<span class="hljs-keyword">for</span> i <span class="hljs-keyword">in</span> range(len(one_data)<span class="hljs-number">-1</span>):one_data[i] = (one_data[i] - avg_values[i]) / (max_values[i] - min_values[i])data = np.reshape(np.array(one_data[:<span class="hljs-number">-1</span>]), [<span class="hljs-number">1</span>, <span class="hljs-number">-1</span>]).astype(np.float32)
label = one_data[<span class="hljs-number">-1</span>]
<span class="hljs-keyword">return</span> data, label</code></pre></div></div></div></div><div><div class="cc cc-container"><div class="cc-aside"><div class="cc-in">In[66]</div></div><div class="cc-main"><div class="cc-output"><pre><code class="hljs">

with dygraph.guard():
# 參數為保存模型參數的文件地址
model_dict, _ = fluid.load_dygraph(‘LR_model’)
model.load_dict(model_dict)
model.eval()

<span class="hljs-comment"># 參數為數據集的文件地址</span>
test_data, label = load_one_example(<span class="hljs-string">'./work/housing.data'</span>)
<span class="hljs-comment"># 將數據轉為動態圖的variable格式</span>
test_data = dygraph.to_variable(test_data)
results = model(test_data)<span class="hljs-comment"># 對結果做反歸一化處理</span>
results = results * (max_values[<span class="hljs-number">-1</span>] - min_values[<span class="hljs-number">-1</span>]) + avg_values[<span class="hljs-number">-1</span>]
print(<span class="hljs-string">"Inference result is {}, the corresponding label is {}"</span>.format(results.numpy(), label))</code></pre><div class="cc-output-item"><div class=""><pre>Inference result is [[16.185738]], the corresponding label is 19.7

房價預測僅是一個最簡單的模型，使用飛槳編寫均可以事半功倍。那么，對于工業實踐中更復雜的模型，使用飛槳節約的成本是不可估量的。同時，因為飛槳針對很多應用場景和機器資源做了性能優化，在功能和性能上往往強于自行編寫的模型。

從下一章開始，我們就將通過“手寫數字識別”的案例，完整的掌握使用飛槳編寫模型的方方面面。

總結

以上是生活随笔為你收集整理的房价预测-paddle 实现的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。