新手第四課-PaddlePaddle快速入門

文章目錄

• 新手第四課-PaddlePaddle快速入門
• • PaddlePaddle基礎(chǔ)命令
  • • 計算常量的加法：1+1
    • 計算變量的加法：1+1
  • 使用PaddlePaddle做線性回歸

PaddlePaddle基礎(chǔ)命令

PaddlePaddle是百度開源的深度學(xué)習(xí)框架，類似的深度學(xué)習(xí)框架還有谷歌的 Tensorflow、Facebook的 Pytorch等，在入門深度學(xué)習(xí)時，學(xué)會并使用一門常見的框架，可以讓學(xué)習(xí)效率大大提升。

在 PaddlePaddle中，計算的對象是張量，我們可以先使用PaddlePaddle來計算一個[[1, 1], [1, 1]] * [[1, 1], [1, 1]]。

計算常量的加法：1+1

首先導(dǎo)入 PaddlePaddle庫

import paddle.fluid as fluid

定義兩個張量的常量x1和x2，并指定它們的形狀是[2, 2]，并賦值為1鋪滿整個張量，類型為int64.

# 定義兩個張量 x1 = fluid.layers.fill_constant(shape=[2, 2], value=1, dtype='int64') x2 = fluid.layers.fill_constant(shape=[2, 2], value=1, dtype='int64')

接著定義一個操作，該計算是將上面兩個張量進行加法計算，并返回一個求和的算子。PaddlePaddle提供了大量的操作，比如加減乘除、三角函數(shù)等，讀者可以在 fluid.layers找到。

# 將兩個張量求和 y1 = fluid.layers.sum(x=[x1, x2])

然后創(chuàng)建一個解釋器，可以在這里指定計算使用CPU或GPU。當(dāng)使用CPUPlace()時使用的是CPU，如果是CUDAPlace()使用的是GPU。解析器是之后使用它來進行計算過的，比如在執(zhí)行計算之前我們要先執(zhí)行參數(shù)初始化的program也是要使用到解析器的，因為只有解析器才能執(zhí)行program。

# 創(chuàng)建一個使用CPU的解釋器 place = fluid.CPUPlace() exe = fluid.executor.Executor(place) # 進行參數(shù)初始化 exe.run(fluid.default_startup_program())

最后執(zhí)行計算，program的參數(shù)值是主程序，不是上一步使用的是初始化參數(shù)的程序，program默認一共有兩個，分別是default_startup_program()和default_main_program()。fetch_list參數(shù)的值是在解析器在run之后要輸出的值，我們要輸出計算加法之后輸出結(jié)果值。最后計算得到的也是一個張量。

# 進行運算，并把y的結(jié)果輸出 result = exe.run(program=fluid.default_main_program(),fetch_list=[y1]) print(result)

計算結(jié)果為：[array([[2, 2], [2, 2]])]

計算變量的加法：1+1

上面計算的是張量常量的1+1，并不能隨意修改常量的值，所以下面我們要編寫一個使用張量變量作為乘數(shù)的程序，類似是一個占位符，等到將要計算時，再把要計算的值添加到占位符中進行計算。

導(dǎo)入PaddlePaddle庫和numpy的庫。

import paddle.fluid as fluid import numpy as np

定義兩個張量，并不指定該張量的形狀和值，它們是之后動態(tài)賦值的。這里只是指定它們的類型和名字，這個名字是我們之后賦值的關(guān)鍵。

# 定義兩個張量 a = fluid.layers.create_tensor(dtype='int64', name='a') b = fluid.layers.create_tensor(dtype='int64', name='b')

使用同樣的方式，定義這個兩個張量的加法操作。

# 將兩個張量求和 y = fluid.layers.sum(x=[a, b])

這里我們同樣是創(chuàng)建一個使用CPU的解析器，和進行參數(shù)初始化。

# 創(chuàng)建一個使用CPU的解釋器 place = fluid.CPUPlace() exe = fluid.executor.Executor(place) # 進行參數(shù)初始化 exe.run(fluid.default_startup_program())

然后使用numpy創(chuàng)建兩個張量值，之后我們要計算的就是這兩個值。

# 定義兩個要計算的變量 a1 = np.array([3, 2]).astype('int64') b1 = np.array([1, 1]).astype('int64')

這次exe.run()的參數(shù)有點不一樣了，多了一個feed參數(shù)，這個就是要對張量變量進行賦值的。賦值的方式是使用了鍵值對的格式，key是定義張量變量是指定的名稱，value就是要傳遞的值。在fetch_list參數(shù)中，筆者希望把a, b, y的值都輸出來，所以要使用3個變量來接受返回值。

# 進行運算，并把y的結(jié)果輸出 out_a, out_b, result = exe.run(program=fluid.default_main_program(),feed={'a': a1, 'b': b1},fetch_list=[a, b, y]) print(out_a, " + ", out_b," = ", result)

計算結(jié)果為：[3 2] + [1 1] = [4 3]

使用PaddlePaddle做線性回歸

在上面的教學(xué)中，教大家學(xué)會用PaddlePaddle做基本的算子運算，下面來教大家如何用PaddlePaddle來做簡單的線性回歸，包括從定義網(wǎng)絡(luò)到使用自定義的數(shù)據(jù)進行訓(xùn)練，最后驗證我們網(wǎng)絡(luò)的預(yù)測能力。

首先導(dǎo)入PaddlePaddle庫和一些工具類庫。

import paddle.fluid as fluid import paddle import numpy as np

定義一個簡單的線性網(wǎng)絡(luò)，這個網(wǎng)絡(luò)非常簡單，結(jié)構(gòu)是：輸出層–>>隱層–>>輸出層__，這個網(wǎng)絡(luò)一共有2層，因為輸入層不算網(wǎng)絡(luò)的層數(shù)。更具體的就是一個大小為100，激活函數(shù)是ReLU的全連接層和一個輸出大小為1的全連接層，就這樣構(gòu)建了一個非常簡單的網(wǎng)絡(luò)。這里使用輸入fluid.layers.data()定義的輸入層類似fluid.layers.create_tensor()，也是有name屬性，之后也是根據(jù)這個屬性來填充數(shù)據(jù)的。這里定義輸入層的形狀為13，這是因為波士頓房價數(shù)據(jù)集的每條數(shù)據(jù)有13個屬性，我們之后自定義的數(shù)據(jù)集也是為了符合這一個維度。

# 定義一個簡單的線性網(wǎng)絡(luò) x = fluid.layers.data(name='x', shape=[13], dtype='float32') hidden = fluid.layers.fc(input=x, size=100, act='relu') net = fluid.layers.fc(input=hidden, size=1, act=None)

接著定義神經(jīng)網(wǎng)絡(luò)的損失函數(shù)，這里同樣使用了fluid.layers.data()這個接口，這個可以理解為數(shù)據(jù)對應(yīng)的結(jié)果，上面name為x的fluid.layers.data()為屬性數(shù)據(jù)。這里使用了平方差損失函數(shù)(square_error_cost)，PaddlePaddle提供了很多的損失函數(shù)的接口，比如交叉熵損失函數(shù)(cross_entropy)。因為本項目是一個線性回歸任務(wù)，所以我們使用的是平方差損失函數(shù)。因為fluid.layers.square_error_cost()求的是一個Batch的損失值，所以我們還要對他求一個平均值。

# 定義損失函數(shù) y = fluid.layers.data(name='y', shape=[1], dtype='float32') cost = fluid.layers.square_error_cost(input=net, label=y) avg_cost = fluid.layers.mean(cost)

定義損失函數(shù)之后，可以在主程序（fluid.default_main_program）中克隆一個程序作為預(yù)測程序，用于訓(xùn)練完成之后使用這個預(yù)測程序進行預(yù)測數(shù)據(jù)。這個定義的順序不能錯，因為我們定義的網(wǎng)絡(luò)結(jié)構(gòu)，損失函數(shù)等等都是更加順序記錄到PaddlePaddle的主程序中的。主程序定義了神經(jīng)網(wǎng)絡(luò)模型，前向反向計算，以及優(yōu)化算法對網(wǎng)絡(luò)中可學(xué)習(xí)參數(shù)的更新，是我們整個程序的核心，這個是PaddlePaddle已經(jīng)幫我們實現(xiàn)的了，我們只需注重網(wǎng)絡(luò)的構(gòu)建和訓(xùn)練即可。

# 復(fù)制一個主程序，方便之后使用 test_program = fluid.default_main_program().clone(for_test=True)

接著是定義訓(xùn)練使用的優(yōu)化方法，這里使用的是隨機梯度下降優(yōu)化方法。PaddlePaddle提供了大量的優(yōu)化函數(shù)接口，除了本項目使用的隨機梯度下降法（SGD），還有Momentum、Adagrad、Adagrad等等，讀者可以更加自己項目的需求使用不同的優(yōu)化方法。

# 定義優(yōu)化方法 optimizer = fluid.optimizer.SGDOptimizer(learning_rate=0.01) opts = optimizer.minimize(avg_cost)

然后是創(chuàng)建一個解析器，我們同樣是使用CPU來進行訓(xùn)練。創(chuàng)建解析器之后，使用解析器來執(zhí)行fluid.default_startup_program()初始化參數(shù)。

# 創(chuàng)建一個使用CPU的解釋器 place = fluid.CPUPlace() exe = fluid.Executor(place) # 進行參數(shù)初始化 exe.run(fluid.default_startup_program())

我們使用numpy定義一組數(shù)據(jù)，這組數(shù)據(jù)的每一條數(shù)據(jù)有13個，這是因為我們在定義網(wǎng)絡(luò)的輸入層時，shape是13，但是每條數(shù)據(jù)的后面12個數(shù)據(jù)是沒意義的，因為筆者全部都是使用0來填充，純粹是為了符合數(shù)據(jù)的格式而已。這組數(shù)據(jù)是符合y = 2 * x + 1，但是程序是不知道的，我們之后使用這組數(shù)據(jù)進行訓(xùn)練，看看強大的神經(jīng)網(wǎng)絡(luò)是否能夠訓(xùn)練出一個擬合這個函數(shù)的模型。最后定義了一個預(yù)測數(shù)據(jù)，是在訓(xùn)練完成，使用這個數(shù)據(jù)作為x輸入，看是否能夠預(yù)測于正確值相近結(jié)果。

# 定義訓(xùn)練和測試數(shù)據(jù) x_data = np.array([[1.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [2.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [3.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [4.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [5.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0]]).astype('float32') y_data = np.array([[3.0], [5.0], [7.0], [9.0], [11.0]]).astype('float32') test_data = np.array([[6.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0]]).astype('float32')

定義數(shù)據(jù)之后，我們就可以使用數(shù)據(jù)進行訓(xùn)練了。我們這次訓(xùn)練了10個pass，讀者可根據(jù)情況設(shè)置更多的訓(xùn)練輪數(shù)，通常來說訓(xùn)練的次數(shù)越多，模型收斂的越好。同樣我們使用的時profram是fluid.default_main_program()，feed中是在訓(xùn)練時把數(shù)據(jù)傳入fluid.layers.data()定義的變量中，及那個鍵值對的key對用的就是fluid.layers.data()中的name的值。我們讓訓(xùn)練過程中輸出avg_cost的值。

在訓(xùn)練過程中，我們可以看到輸出的損失值在不斷減小，證明我們的模型在不斷收斂。

# 開始訓(xùn)練10個passfor pass_id in range(10):train_cost = exe.run(program=fluid.default_main_program(),feed={'x': x_data, 'y': y_data},fetch_list=[avg_cost])print("Pass:%d, Cost:%0.5f" % (pass_id, train_cost[0]))

訓(xùn)練完成之后，我們使用上面克隆主程序得到的預(yù)測程序了預(yù)測我們剛才定義的預(yù)測數(shù)據(jù)。預(yù)測數(shù)據(jù)同樣作為x在feed輸入，在預(yù)測時，理論上是不用輸入y的，但是要符合輸入格式，我們模擬一個y的數(shù)據(jù)值，這個值并不會影響我們的預(yù)測結(jié)果。fetch_list的值，也就是我們執(zhí)行預(yù)測之后要輸出的結(jié)果，這是網(wǎng)絡(luò)的最后一層，而不是平均損失函數(shù)（avg_cost），因為我們是想要預(yù)測程序輸出預(yù)測結(jié)果。根據(jù)我們上面定義數(shù)據(jù)時，滿足規(guī)律y = 2 * x + 1，所以當(dāng)x為6時，y應(yīng)該時13，最后輸出的結(jié)果也是應(yīng)該接近13的。

# 開始預(yù)測 result = exe.run(program=test_program,feed={'x': test_data, 'y': np.array([[0.0]]).astype('float32')},fetch_list=[net]) print("當(dāng)x為6.0時，y為：%0.5f" % result[0][0][0])

預(yù)測結(jié)果：當(dāng)x為6.0時，y為：13.23625

總結(jié)

以上是生活随笔為你收集整理的新手第四课-PaddlePaddle快速入门的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。