基于之前 SKlearn API ，增加了儲存模型和讀取模型的功能，分別寫在兩段代碼里面。

第一段是訓(xùn)練和保存模型，和之前差不多：

import sklearn as sk import xgboost as xgb import numpy as np import pandas as pd from sklearn.model_selection import train_test_split # 功能：數(shù)據(jù)集按比例切分為訓(xùn)練集和測試集 from sklearn.metrics import precision_score from sklearn.metrics import recall_score from sklearn.preprocessing import scale # 數(shù)據(jù)集標(biāo)準(zhǔn)化 import matplotlib.pyplot as plt from pandas_ml import ConfusionMatrix # 引入混淆矩陣 from xgboost.sklearn import XGBClassifier from sklearn.externals import joblib # 保存和讀取模型用df = pd.read_csv('creditcard.csv', low_memory=False)X = df.iloc[:,:-1] # 基于位置的純整數(shù)索引 y = df['Class'] #　類別 X_scaled = scale(X) # 標(biāo)準(zhǔn)化train_X, test_X, train_y, test_y = train_test_split(X, y, test_size=0.35 ,random_state = 12) # dtrain = xgb.DMatrix(train_X, label = train_y) # dtest = xgb.DMatrix(test_X, label = test_y)XGBC = xgb.XGBClassifier(gamma = 0.1, # Gamma指定了節(jié)點分裂所需的最小損失函數(shù)下降值，值越大，算法越保守。learning_rate = 0.3, # 學(xué)習(xí)速率max_delta_step = 0, # 限制每棵樹權(quán)重改變的最大步長。0為沒有限制，越大越保守。可用于樣本不平衡的時候。max_depth = 5, # 樹的最大深度min_child_weight = 6, # 最小葉子節(jié)點樣本權(quán)重和。低避免過擬合，太高導(dǎo)致欠擬合。missing = None, # 如果有缺失值則替換。默認 None 就是 np.nann_estimators = 250, # 樹的數(shù)量nthread = 8, # 并行線程數(shù)量objective = 'binary:logistic', # 指定學(xué)習(xí)任務(wù)和相應(yīng)的學(xué)習(xí)目標(biāo)或要使用的自定義目標(biāo)函數(shù)#'objective':'multi:softprob', # 定義學(xué)習(xí)任務(wù)及相應(yīng)的學(xué)習(xí)目標(biāo)#'objective':'reg:linear', # 線性回歸#'objective':'reg:logistic', # 邏輯回歸#'objective':'binary:logistic', # 二分類的邏輯回歸問題，輸出為概率#'objective':'binary:logitraw', # 二分類的邏輯回歸問題，輸出結(jié)果為 wTx，wTx指機器學(xué)習(xí)線性模型f(x)=wTx+b#'objective':'count:poisson' # 計數(shù)問題的poisson回歸，輸出結(jié)果為poisson分布#'objective':'multi:softmax' # 讓XGBoost采用softmax目標(biāo)函數(shù)處理多分類問題，同時需要設(shè)置參數(shù)num_class#'objective':'multi:softprob' # 和softmax一樣，但是輸出的是ndata * nclass的向量，# 可以將該向量reshape成ndata行nclass列的矩陣。# 每行數(shù)據(jù)表示樣本所屬于每個類別的概率。reg_alpha = 1, # 權(quán)重的L1正則化項。默認1reg_lambda = 1, # 權(quán)重的L2正則化項。默認1scale_pos_weight = 10000, # 數(shù)字變大，會增加對少量詐騙樣本的學(xué)習(xí)權(quán)重，這里10000比較好seed = 0, # 隨機種子silent = True, # 靜默模式開啟，不會輸出任何信息subsample = 0.9, # 控制對于每棵樹，隨機采樣的比例。減小會更加保守，避免過擬,過小會導(dǎo)致欠擬合。base_score = 0.5) # 所有實例的初始預(yù)測評分,全局偏差 bst = XGBC.fit(train_X, train_y) preds = bst.predict(test_X) # 對測試集作出預(yù)測 print("訓(xùn)練完成！") print("保存模型...") joblib.dump(bst,'XGBmodel.pkl') # 保存模型 print("保存成功！")# 精確度（Precision）： # P = TP/(TP+FP) ; 反映了被分類器判定的正例中真正的正例樣本的比重 print("精確度（Precision）：", precision_score(test_y, preds, average='macro')) # ?? % print("召回率（Recall）：", recall_score(test_y, preds, average='macro')) # ?? %predicted_y = np.array(preds) right_y = np.array(test_y)# 混淆矩陣的每一列代表了預(yù)測類別， # 每一列的總數(shù)表示預(yù)測為該類別的數(shù)據(jù)的數(shù)目； # 每一行代表了數(shù)據(jù)的真實歸屬類別， # 每一行的數(shù)據(jù)總數(shù)表示該類別的數(shù)據(jù)實例的數(shù)目。 confusion_matrix = ConfusionMatrix(right_y, predicted_y) # print("Confusion matrix:\n%s" % confusion_matrix) # confusion_matrix.plot(normalized=True) # plt.show() confusion_matrix.print_stats()''' population: 99683 P: 176 N: 99507 PositiveTest: 170 NegativeTest: 99513 TP: 147 TN: 99484 FP: 23 FN: 29 TPR: 0.835227272727 TNR: 0.999768860482 PPV: 0.864705882353 NPV: 0.999708580788 FPR: 0.000231139517823 FDR: 0.135294117647 FNR: 0.164772727273 ACC: 0.999478346358 F1_score: 0.849710982659 MCC: 0.849577974181 informedness: 0.834996133209 markedness: 0.864414463141 prevalence: 0.00176559694231 LRP: 3613.52000988 LRN: 0.164810821567 DOR: 21925.2593703 FOR: 0.00029141921156s '''

理論上這樣就成功保存模型了，接下來就是讀取模型直接用，注意路徑。

import sklearn as sk import xgboost as xgb import numpy as np import pandas as pd from sklearn.model_selection import train_test_split # 功能：數(shù)據(jù)集按比例切分為訓(xùn)練集和測試集 from sklearn.metrics import precision_score from sklearn.metrics import recall_score from sklearn.preprocessing import scale # 數(shù)據(jù)集標(biāo)準(zhǔn)化 import matplotlib.pyplot as plt from pandas_ml import ConfusionMatrix # 引入混淆矩陣 from xgboost.sklearn import XGBClassifier from sklearn.externals import joblibdf = pd.read_csv('creditcard.csv', low_memory=False)X = df.iloc[:,:-1] # 基于位置的純整數(shù)索引 y = df['Class'] #　類別 X_scaled = scale(X) # 標(biāo)準(zhǔn)化train_X, test_X, train_y, test_y = train_test_split(X, y, test_size=0.35 ,random_state = 99) print("讀取模型...") bst = joblib.load("XGBmodel.pkl") print("讀取成功！")preds = bst.predict(test_X) # 對測試集作出預(yù)測 print("精確度（Precision）：", precision_score(test_y, preds, average='macro')) # ?? % print("召回率（Recall）：", recall_score(test_y, preds, average='macro')) # ?? %predicted_y = np.array(preds) right_y = np.array(test_y)confusion_matrix = ConfusionMatrix(right_y, predicted_y) confusion_matrix.print_stats()
清楚明白。

總結(jié)

以上是生活随笔為你收集整理的XGBoost 与 信用卡诈骗数据集 三的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。