? ? ? ? ?前提：文中使用的數據是本人下載下來以后自己處理過的，就是把文件中的所有分隔符都換成了空格。所以load_data方法只能加載我自己的數據，想要加載原生數據的話需要自己寫load_data方法。

? ? ? ? ? ? ? ? ? ? ?兩個算法的關鍵地方都需要判斷當前的w在某個樣本點x上是否犯錯，而對于犯錯的判斷有兩個版本，第一個版本就是直接使用 wx*y <= 0 就表示犯錯；第二個版本是用 sign(wx) != y 就表示犯錯。這兩個版本對于訓練的結果基本沒有影響，個人看出來的 唯一區別在于初始化w為0的時候，第一個版本對于任意的樣本都是犯錯的；第二個版本，根據林老師的sign版本，sign(0)是-1，所以僅僅是可能犯錯誤。我選擇了第二個版本，因為個人認為第二個版本更加符合林老師的sign定義。

? ? ? ?代碼部分：

util.py內容

# -*- coding:utf-8 -*- # Author: Evan Mi import numpy as npdef load_data(file_name):x = []y = []with open(file_name, 'r+') as f:for line in f:line = line.rstrip("\n")temp = line.split(" ")temp.insert(0, '1')x_temp = [float(val) for val in temp[:-1]]y_tem = [int(val) for val in temp[-1:]]x.append(x_temp)y.append(y_tem)nx = np.array(x)ny = np.array(y)return nx, nydef sign(value):if value > 0:return 1else:return -1

pla.py內容（這里的main中只是作業要求的隨機打亂的測試）

# -*- coding:utf-8 -*- # Author: Evan Mi import numpy as np from pla_and_pocket_pla import utildef pla(nx, ny, rate=1):""":param nx: 屬性矩陣，格式是[[...],[...],[...]]:param ny: 值，格式是 [[.],[.],[.]]:param rate: 學習率，默認是1:return: 迭代次數"""total_update_nums = 0total_train_example_nums = np.size(nx, 0)continue_right_nums = 0 # 連續不犯錯的次數，當continue_right_nums==total_train_example_nums的時候，程序結束w = np.zeros((1, 5)) # 初始化參數為0loop_index = 0while True:this_x = nx[loop_index]result = util.sign(np.dot(this_x, w.T)[0])this_y = ny[loop_index, 0]if result == this_y:continue_right_nums += 1else:continue_right_nums = 0w = w + rate * (this_x * this_y)total_update_nums += 1loop_index = (loop_index + 1) % total_train_example_numsif continue_right_nums == total_train_example_nums:breakreturn total_update_numsif __name__ == '__main__':"""這里展示的是隨機打亂樣本，以0.5的學習率運行1000次的結果"""out_nx, out_ny = util.load_data("data/data.txt")avg = 0for i in range(1000):shuffle_index = np.arange(0, np.size(out_nx, 0))np.random.shuffle(shuffle_index)shuffled_x = out_nx[shuffle_index]shuffled_y = out_ny[shuffle_index]result_out = pla(shuffled_x, shuffled_y, 0.5)print("第%d次的更新次數為：%d" % ((i + 1), result_out))avg = avg + (1.0 / (i + 1)) * (result_out - avg)print("平均迭代次數為：%d" % avg)

pocket_pla.py內容（同樣，這里的mian方法中也只有部分的題目要求的測試）

# -*- coding:utf-8 -*- # Author: Evan Mi import numpy as np from pla_and_pocket_pla import utildef error_counter(x, y, w):result = np.where(x.dot(w[0].T) > 0, 1, -1)compare_result = np.where(result == y.T[0], 0, 1)return (1.0 * np.sum(compare_result)) / np.size(y, 0)def pocket_pla(nx, ny, rate=1, max_iter=50):""":param nx:屬性矩陣，格式是[[...],[...],[...]]:param ny: 值，格式是 [[.],[.],[.]]:param rate: 學習率，默認是1:param max_iter: 最大迭代次數，默認50:return: w_pocket和w"""total_update_nums = 0total_train_example_nums = np.size(nx, 0)w_pocket = np.zeros((1, 5)) # w_pocket 就是一個口袋里的桃子，觀察著w的變化，一旦比自己好，立馬把w放進口袋里w = np.zeros((1, 5)) # 初始化參數為0while True:rand_index = np.random.randint(0, total_train_example_nums)this_x = nx[rand_index]result = util.sign(np.dot(this_x, w.T)[0])this_y = ny[rand_index, 0]if int(result) != int(this_y):w = w + rate * (this_x * this_y)total_update_nums += 1if error_counter(nx, ny, w) < error_counter(nx, ny, w_pocket):w_pocket = wif total_update_nums == max_iter:breakreturn w_pocket, wif __name__ == '__main__':x_train, y_train = util.load_data("data/train.txt")x_test, y_test = util.load_data("data/test.txt")avg_pocket = 0avg = 0for index in range(2000):w_out_pocket, w_out = pocket_pla(x_train, y_train, max_iter=100)error_out_pocket = error_counter(x_test, y_test, w_out_pocket)error_out = error_counter(x_test, y_test, w_out)avg_pocket = avg_pocket + (1.0 / (index + 1)) * (error_out_pocket - avg_pocket)avg = avg + (1.0 / (index + 1)) * (error_out - avg)print(avg_pocket)print(avg)

詳細項目代碼及代碼使用的數據見：PLA和POCKET_PLA?

?

總結

以上是生活随笔為你收集整理的机器学习基石作业一中的PLA和POCKET_PLA实现的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。