# -*- coding: UTF-8 -*-
from random import random ,randint import math
def wineprice(rating,age): peak_age = rating - 50 #根據等級來計算價格 price = rating/2 if age > peak_age: # 經過峰值年之后，后繼5年內品質將會變差 price = price*(5-(age - peak_age)) else: # 價格在接近峰值年時會增加到原值的5倍 price = price*(5*((age+1)/peak_age)) if price < 0: price = 0 return price
def wineset1(): rows = [] for i in range(300): #隨機生成年代和等級 rating = random() * 50 + 50 age = random() * 50 # 得到一個參考價格 price = wineprice(rating, age) # 添加噪聲 price *= (random() * 0.4 + 0.8) #加入數據集 rows.append({'input': (rating, age), 'result': price}) return rows
# 定義兩個向量的相似度為歐氏距離 def euclidean(v1,v2): d = 0.0 for i in range(len(v1)): a = v1[i] b = v2[i] d += pow(a-b, 2) return math.sqrt(d)??
# 獲取要預測的向量vec1與數據集data中所有元素的距離 def getdistances(data,vec1): distancelist = [] for i in range(len(data)): vec2 = data[i]['input'] distancelist.append((euclidean(vec1, vec2),i)) distancelist.sort() return distancelist
# knn函數，對列表的前k項結果求了平均值 def knnestimate(data,vec1,k=5): # 得到經過排序的距離值 dlist = getdistances(data, vec1) avg = 0.0 #對前K項結果求平均值 for i in range(k): idx = dlist[i][1] avg += data[idx]['result'] avg = avg/k return avg??
#反函數 將距離轉換為權重 def inverseweight(dist,num=1.0,const=0.1): return num/(dist+const)??
#減法函數 def subtractweight(dist,const=1.0): if dist > const: return 0 else: return const - dist? # 高斯函數 def gaussian(dist,sigma = 10.0): return math.e**(-dist**2 / sigma**2)
# 加權KNN算法，根據距離對K個近鄰加權，權值乘以對應的價格作累加最后除以權值之和 # 參數weightf是函數，指示使用哪一種權值衰減方式 # 試驗得出，k=3時 誤差最小 def weightedKnn(data, vec1, k=3, weightf = gaussian): dlist = getdistances(data, vec1) result = 0.0 weight = 0.0 for i in range(k): price = data[dlist[i][1]]['result'] # 價格 result += price * weightf(dlist[i][0]) # 距離加權，累加價格和 weight += weightf(dlist[i][0])? ? ? ? ?# 統計權值和 return result / weight #交叉驗證 # 1 隨機劃分數據集，test指定了測試集所占的比例 # 典型的情況下，測試集只會包含一小部分數據，大概是所有數據的5%，剩下的95%都是訓練集 def dividedata(data, test=0.05): trainset = [] testset = [] for row in data: if random() < test: testset.append(row) else: trainset.append(row) return trainset,testset??
# 2 對測試集進行預測算出誤差，針對測試集中的每一項內容調用算法，返回誤差 #? 其中參數algf是一個函數，可以是 knnestimate,weightedknn或者其他計算價格的函數 def testalgorithm(algf, trainset, testset): error = 0.0 for row in testset: # 對測試集的每一項數據都進行預測 guess = algf(trainset, row['input']) # 對預測結果與正確結果進行做差，得出誤差 error += (row['result'] - guess) **2? return error / len(testset)? ? ?
# 3 交叉驗證 多次調用dividedata函數對數據進行隨機劃分，并計算誤差，取所有隨機劃分的均值 def crossvalidate(algf, data, trials = 100, test = 0.05): error = 0.0 #trials 代表隨機劃分的次數 for i in range(trials): trainset,testset = dividedata(data, test) #100多次的交叉驗證之后，對累計的誤差求平均值 error += testalgorithm(algf, trainset, testset) return error / trials
#重新生成數據集，加入干擾變量 def wineset2(): rows = [] for i in range(300): rating = random() * 50 + 50 age = random() * 50 aisle = float(randint(1,20)) bottleszie = [375.0, 750.0, 1500.0, 3000.0][randint(0, 3)] price = wineprice(rating, age) price *= (bottleszie / 750) price*=(random()*0.9+0.2) rows.append({'input': (rating, age, aisle, bottleszie), 'result': price}) return rows
# 縮放，參數scale的長度與訓練數據特征的長度相同. 每個參數乘以訓練數據中的特征以達到縮放特征的目的 def rescale(data, scale): scaledata = [] for row in data: scaled = [scale[i] * row['input'][i] for i in range(len(scale))] scaledata.append({'input': scaled, 'result': row['result']}) return scaledata
# 構造 優化搜索算法 的代價函數 def createcostfunction(algf, data): def costf(scale): sdata = rescale(data, scale) return crossvalidate(algf, data) return costf
if __name__ == '__main__': #構造數據 data = wineset1()? print data print getdistances(data, (99.0,5.0)) #價格預測 print '----------------------------------k-最近鄰算法---------------------------------------' print knnestimate(data, (99.0,5.0)) print '----------------------------------加權 k-最近鄰算法---------------------------------------' # 優化knnestimate函數，對不同距離的近鄰進行距離加權 print weightedKnn(data, (99.0,5.0)) # 交叉驗證 print '----------------------------------交叉驗證，誤差均值---------------------------------------' print crossvalidate(weightedKnn, data)

總結

以上是生活随笔為你收集整理的机器学习---knn之价格预测的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。