转载：使用sklearn进行数据挖掘
目錄
1 使用sklearn進(jìn)行數(shù)據(jù)挖掘
1.1 數(shù)據(jù)挖掘的步驟
1.2 數(shù)據(jù)初貌
1.3 關(guān)鍵技術(shù)
2 并行處理
2.1 整體并行處理
2.2 部分并行處理
3 流水線處理
4 自動(dòng)化調(diào)參
5 持久化
6 回顧
7 總結(jié)
8 參考資料
1 使用sklearn進(jìn)行數(shù)據(jù)挖掘
1.1 數(shù)據(jù)挖掘的步驟
數(shù)據(jù)挖掘通常包括數(shù)據(jù)采集，數(shù)據(jù)分析，特征工程，訓(xùn)練模型，模型評(píng)估等步驟。使用sklearn工具可以方便地進(jìn)行特征工程和模型訓(xùn)練工作，在《使用sklearn做單機(jī)特征工程》中，我們最后留下了一些疑問(wèn)：特征處理類都有三個(gè)方法fit、transform和fit_transform，fit方法居然和模型訓(xùn)練方法fit同名（不光同名，參數(shù)列表都一樣），這難道都是巧合？
顯然，這不是巧合，這正是sklearn的設(shè)計(jì)風(fēng)格。我們能夠更加優(yōu)雅地使用sklearn進(jìn)行特征工程和模型訓(xùn)練工作。此時(shí)，不妨從一個(gè)基本的數(shù)據(jù)挖掘場(chǎng)景入手：
我們使用sklearn進(jìn)行虛線框內(nèi)的工作（sklearn也可以進(jìn)行文本特征提取）。通過(guò)分析sklearn源碼，我們可以看到除訓(xùn)練，預(yù)測(cè) 和評(píng)估以外，處理其他工作的類都實(shí)現(xiàn)了3個(gè)方法：fit、transform和fit_transform。從命名中可以看 到，fit_transform方法是先調(diào)用fit然后調(diào)用transform，我們只需要關(guān)注fit方法和transform方法即可。
transform方法主要用來(lái)對(duì)特征進(jìn)行轉(zhuǎn)換。從可利用信息的角度來(lái)說(shuō)，轉(zhuǎn)換分為無(wú)信息轉(zhuǎn)換和有信息轉(zhuǎn)換。無(wú)信息轉(zhuǎn)換是指不利用任何其他信息 進(jìn)行轉(zhuǎn)換，比如指數(shù)、對(duì)數(shù)函數(shù)轉(zhuǎn)換等。有信息轉(zhuǎn)換從是否利用目標(biāo)值向量又可分為無(wú)監(jiān)督轉(zhuǎn)換和有監(jiān)督轉(zhuǎn)換。無(wú)監(jiān)督轉(zhuǎn)換指只利用特征的統(tǒng)計(jì)信息的轉(zhuǎn)換，統(tǒng)計(jì)信 息包括均值、標(biāo)準(zhǔn)差、邊界等等，比如標(biāo)準(zhǔn)化、PCA法降維等。有監(jiān)督轉(zhuǎn)換指既利用了特征信息又利用了目標(biāo)值信息的轉(zhuǎn)換，比如通過(guò)模型選擇特征、LDA法降 維等。通過(guò)總結(jié)常用的轉(zhuǎn)換類，我們得到下表：
| 包 | 類 | 參數(shù)列表 | 類別 | fit方法有用 | 說(shuō)明 |
| sklearn.preprocessing | StandardScaler | 特征 | 無(wú)監(jiān)督 | Y | 標(biāo)準(zhǔn)化 |
| sklearn.preprocessing | MinMaxScaler | 特征 | 無(wú)監(jiān)督 | Y | 區(qū)間縮放 |
| sklearn.preprocessing | Normalizer | 特征 | 無(wú)信息 | N | 歸一化 |
| sklearn.preprocessing | Binarizer | 特征 | 無(wú)信息 | N | 定量特征二值化 |
| sklearn.preprocessing | OneHotEncoder | 特征 | 無(wú)監(jiān)督 | Y | 定性特征編碼 |
| sklearn.preprocessing | Imputer | 特征 | 無(wú)監(jiān)督 | Y | 缺失值計(jì)算 |
| sklearn.preprocessing | PolynomialFeatures | 特征 | 無(wú)信息 | N | 多項(xiàng)式變換（fit方法僅僅生成了多項(xiàng)式的表達(dá)式） |
| sklearn.preprocessing | FunctionTransformer | 特征 | 無(wú)信息 | N | 自定義函數(shù)變換（自定義函數(shù)在transform方法中調(diào)用） |
| sklearn.feature_selection | VarianceThreshold | 特征 | 無(wú)監(jiān)督 | Y | 方差選擇法 |
| sklearn.feature_selection | SelectKBest | 特征/特征+目標(biāo)值 | 無(wú)監(jiān)督/有監(jiān)督 | Y | 自定義特征評(píng)分選擇法 |
| sklearn.feature_selection | SelectKBest+chi2 | 特征+目標(biāo)值 | 有監(jiān)督 | Y | 卡方檢驗(yàn)選擇法 |
| sklearn.feature_selection | RFE | 特征+目標(biāo)值 | 有監(jiān)督 | Y | 遞歸特征消除法 |
| sklearn.feature_selection | SelectFromModel | 特征+目標(biāo)值 | 有監(jiān)督 | Y | 自定義模型訓(xùn)練選擇法 |
| sklearn.decomposition | PCA | 特征 | 無(wú)監(jiān)督 | Y | PCA降維 |
| sklearn.lda | LDA | 特征+目標(biāo)值 | 有監(jiān)督 | Y | LDA降維 |
不難看到，只有有信息的轉(zhuǎn)換類的fit方法才實(shí)際有用，顯然fit方法的主要工作是獲取特征信息和目標(biāo)值信息，在這點(diǎn)上，fit方法和模型訓(xùn)練 時(shí)的fit方法就能夠聯(lián)系在一起了：都是通過(guò)分析特征和目標(biāo)值，提取有價(jià)值的信息，對(duì)于轉(zhuǎn)換類來(lái)說(shuō)是某些統(tǒng)計(jì)量，對(duì)于模型來(lái)說(shuō)可能是特征的權(quán)值系數(shù)等。另 外，只有有監(jiān)督的轉(zhuǎn)換類的fit和transform方法才需要特征和目標(biāo)值兩個(gè)參數(shù)。fit方法無(wú)用不代表其沒(méi)實(shí)現(xiàn)，而是除合法性校驗(yàn)以外，其并沒(méi)有對(duì) 特征和目標(biāo)值進(jìn)行任何處理，Normalizer的fit方法實(shí)現(xiàn)如下：
1 def fit(self, X, y=None): 2 """Do nothing and return the estimator unchanged 3 This method is just there to implement the usual API and hence 4 work in pipelines. 5 """ 6 X = check_array(X, accept_sparse='csr') 7 return self基于這些特征處理工作都有共同的方法，那么試想可不可以將他們組合在一起？在本文假設(shè)的場(chǎng)景中，我們可以看到這些工作的組合形式有兩種：流水線 式和并行式。基于流水線組合的工作需要依次進(jìn)行，前一個(gè)工作的輸出是后一個(gè)工作的輸入；基于并行式的工作可以同時(shí)進(jìn)行，其使用同樣的輸入，所有工作完成后 將各自的輸出合并之后輸出。sklearn提供了包pipeline來(lái)完成流水線式和并行式的工作。
1.2 數(shù)據(jù)初貌
? 在此，我們?nèi)匀皇褂肐RIS數(shù)據(jù)集來(lái)進(jìn)行說(shuō)明。為了適應(yīng)提出的場(chǎng)景，對(duì)原數(shù)據(jù)集需要稍微加工：
1 from numpy import hstack, vstack, array, median, nan 2 from numpy.random import choice 3 from sklearn.datasets import load_iris 4 5 #特征矩陣加工 6 #使用vstack增加一行含缺失值的樣本(nan, nan, nan, nan) 7 #使用hstack增加一列表示花的顏色（0-白、1-黃、2-紅），花的顏色是隨機(jī)的，意味著顏色并不影響花的分類 8 iris.data = hstack((choice([0, 1, 2], size=iris.data.shape[0]+1).reshape(-1,1), vstack((iris.data, array([nan, nan, nan, nan]).reshape(1,-1))))) 9 #目標(biāo)值向量加工 10 #增加一個(gè)目標(biāo)值，對(duì)應(yīng)含缺失值的樣本，值為眾數(shù) 11 iris.target = hstack((iris.target, array([median(iris.target)])))1.3 關(guān)鍵技術(shù)
并行處理，流水線處理，自動(dòng)化調(diào)參，持久化是使用sklearn優(yōu)雅地進(jìn)行數(shù)據(jù)挖掘的核心。并行處理和流水線處理將多個(gè)特征處理工作，甚至包括 模型訓(xùn)練工作組合成一個(gè)工作（從代碼的角度來(lái)說(shuō)，即將多個(gè)對(duì)象組合成了一個(gè)對(duì)象）。在組合的前提下，自動(dòng)化調(diào)參技術(shù)幫我們省去了人工調(diào)參的反鎖。訓(xùn)練好的 模型是貯存在內(nèi)存中的數(shù)據(jù)，持久化能夠?qū)⑦@些數(shù)據(jù)保存在文件系統(tǒng)中，之后使用時(shí)無(wú)需再進(jìn)行訓(xùn)練，直接從文件系統(tǒng)中加載即可。
?
2 并行處理
并行處理使得多個(gè)特征處理工作能夠并行地進(jìn)行。根據(jù)對(duì)特征矩陣的讀取方式不同，可分為整體并行處理和部分并行處理。整體并行處理，即并行處理的每個(gè)工作的輸入都是特征矩陣的整體；部分并行處理，即可定義每個(gè)工作需要輸入的特征矩陣的列。
2.1 整體并行處理
pipeline包提供了FeatureUnion類來(lái)進(jìn)行整體并行處理：
1 from numpy import log1p 2 from sklearn.preprocessing import FunctionTransformer 3 from sklearn.preprocessing import Binarizer 4 from sklearn.pipeline import FeatureUnion 5 6 #新建將整體特征矩陣進(jìn)行對(duì)數(shù)函數(shù)轉(zhuǎn)換的對(duì)象 7 step2_1 = ('ToLog', FunctionTransformer(log1p)) 8 #新建將整體特征矩陣進(jìn)行二值化類的對(duì)象 9 step2_2 = ('ToBinary', Binarizer()) 10 #新建整體并行處理對(duì)象 11 #該對(duì)象也有fit和transform方法，fit和transform方法均是并行地調(diào)用需要并行處理的對(duì)象的fit和transform方法 12 #參數(shù)transformer_list為需要并行處理的對(duì)象列表，該列表為二元組列表，第一元為對(duì)象的名稱，第二元為對(duì)象 13 step2 = ('FeatureUnion', FeatureUnion(transformer_list=[step2_1, step2_2, step2_3]))2.2 部分并行處理
整體并行處理有其缺陷，在一些場(chǎng)景下，我們只需要對(duì)特征矩陣的某些列進(jìn)行轉(zhuǎn)換，而不是所有列。pipeline并沒(méi)有提供相應(yīng)的類（僅OneHotEncoder類實(shí)現(xiàn)了該功能），需要我們?cè)贔eatureUnion的基礎(chǔ)上進(jìn)行優(yōu)化：
View Code在本文提出的場(chǎng)景中，我們對(duì)特征矩陣的第1列（花的顏色）進(jìn)行定性特征編碼，對(duì)第2、3、4列進(jìn)行對(duì)數(shù)函數(shù)轉(zhuǎn)換，對(duì)第5列進(jìn)行定量特征二值化處理。使用FeatureUnionExt類進(jìn)行部分并行處理的代碼如下：
1 from numpy import log1p 2 from sklearn.preprocessing import OneHotEncoder 3 from sklearn.preprocessing import FunctionTransformer 4 from sklearn.preprocessing import Binarizer 5 6 #新建將部分特征矩陣進(jìn)行定性特征編碼的對(duì)象 7 step2_1 = ('OneHotEncoder', OneHotEncoder(sparse=False)) 8 #新建將部分特征矩陣進(jìn)行對(duì)數(shù)函數(shù)轉(zhuǎn)換的對(duì)象 9 step2_2 = ('ToLog', FunctionTransformer(log1p)) 10 #新建將部分特征矩陣進(jìn)行二值化類的對(duì)象 11 step2_3 = ('ToBinary', Binarizer()) 12 #新建部分并行處理對(duì)象 13 #參數(shù)transformer_list為需要并行處理的對(duì)象列表，該列表為二元組列表，第一元為對(duì)象的名稱，第二元為對(duì)象 14 #參數(shù)idx_list為相應(yīng)的需要讀取的特征矩陣的列 15 step2 = ('FeatureUnionExt', FeatureUnionExt(transformer_list=[step2_1, step2_2, step2_3], idx_list=[[0], [1, 2, 3], [4]]))3 流水線處理
pipeline包提供了Pipeline類來(lái)進(jìn)行流水線處理。流水線上除最后一個(gè)工作以外，其他都要執(zhí)行fit_transform方法，且 上一個(gè)工作輸出作為下一個(gè)工作的輸入。最后一個(gè)工作必須實(shí)現(xiàn)fit方法，輸入為上一個(gè)工作的輸出；但是不限定一定有transform方法，因?yàn)榱魉€的 最后一個(gè)工作可能是訓(xùn)練！
根據(jù)本文提出的場(chǎng)景，結(jié)合并行處理，構(gòu)建完整的流水線的代碼如下：
1 from numpy import log1p 2 from sklearn.preprocessing import Imputer 3 from sklearn.preprocessing import OneHotEncoder 4 from sklearn.preprocessing import FunctionTransformer 5 from sklearn.preprocessing import Binarizer 6 from sklearn.preprocessing import MinMaxScaler 7 from sklearn.feature_selection import SelectKBest 8 from sklearn.feature_selection import chi2 9 from sklearn.decomposition import PCA 10 from sklearn.linear_model import LogisticRegression 11 from sklearn.pipeline import Pipeline 12 13 #新建計(jì)算缺失值的對(duì)象 14 step1 = ('Imputer', Imputer()) 15 #新建將部分特征矩陣進(jìn)行定性特征編碼的對(duì)象 16 step2_1 = ('OneHotEncoder', OneHotEncoder(sparse=False)) 17 #新建將部分特征矩陣進(jìn)行對(duì)數(shù)函數(shù)轉(zhuǎn)換的對(duì)象 18 step2_2 = ('ToLog', FunctionTransformer(log1p)) 19 #新建將部分特征矩陣進(jìn)行二值化類的對(duì)象 20 step2_3 = ('ToBinary', Binarizer()) 21 #新建部分并行處理對(duì)象，返回值為每個(gè)并行工作的輸出的合并 22 step2 = ('FeatureUnionExt', FeatureUnionExt(transformer_list=[step2_1, step2_2, step2_3], idx_list=[[0], [1, 2, 3], [4]])) 23 #新建無(wú)量綱化對(duì)象 24 step3 = ('MinMaxScaler', MinMaxScaler()) 25 #新建卡方校驗(yàn)選擇特征的對(duì)象 26 step4 = ('SelectKBest', SelectKBest(chi2, k=3)) 27 #新建PCA降維的對(duì)象 28 step5 = ('PCA', PCA(n_components=2)) 29 #新建邏輯回歸的對(duì)象，其為待訓(xùn)練的模型作為流水線的最后一步 30 step6 = ('LogisticRegression', LogisticRegression(penalty='l2')) 31 #新建流水線處理對(duì)象 32 #參數(shù)steps為需要流水線處理的對(duì)象列表，該列表為二元組列表，第一元為對(duì)象的名稱，第二元為對(duì)象 33 pipeline = Pipeline(steps=[step1, step2, step3, step4, step5, step6])4 自動(dòng)化調(diào)參
網(wǎng)格搜索為自動(dòng)化調(diào)參的常見(jiàn)技術(shù)之一，grid_search包提供了自動(dòng)化調(diào)參的工具，包括GridSearchCV類。對(duì)組合好的對(duì)象進(jìn)行訓(xùn)練以及調(diào)參的代碼如下：
1 from sklearn.grid_search import GridSearchCV 2 3 #新建網(wǎng)格搜索對(duì)象 4 #第一參數(shù)為待訓(xùn)練的模型 5 #param_grid為待調(diào)參數(shù)組成的網(wǎng)格，字典格式，鍵為參數(shù)名稱（格式“對(duì)象名稱__子對(duì)象名稱__參數(shù)名稱”），值為可取的參數(shù)值列表 6 grid_search = GridSearchCV(pipeline, param_grid={'FeatureUnionExt__ToBinary__threshold':[1.0, 2.0, 3.0, 4.0], 'LogisticRegression__C':[0.1, 0.2, 0.4, 0.8]}) 7 #訓(xùn)練以及調(diào)參 8 grid_search.fit(iris.data, iris.target)5 持久化
externals.joblib包提供了dump和load方法來(lái)持久化和加載內(nèi)存數(shù)據(jù)：
1 #持久化數(shù)據(jù) 2 #第一個(gè)參數(shù)為內(nèi)存中的對(duì)象 3 #第二個(gè)參數(shù)為保存在文件系統(tǒng)中的名稱 4 #第三個(gè)參數(shù)為壓縮級(jí)別，0為不壓縮，3為合適的壓縮級(jí)別 5 dump(grid_search, 'grid_search.dmp', compress=3) 6 #從文件系統(tǒng)中加載數(shù)據(jù)到內(nèi)存中 7 grid_search = load('grid_search.dmp')6 回顧
| 包 | 類或方法 | 說(shuō)明 |
| sklearn.pipeline | Pipeline | 流水線處理 |
| sklearn.pipeline | FeatureUnion | 并行處理 |
| sklearn.grid_search | GridSearchCV | 網(wǎng)格搜索調(diào)參 |
| externals.joblib | dump | 數(shù)據(jù)持久化 |
| externals.joblib | load | 從文件系統(tǒng)中加載數(shù)據(jù)至內(nèi)存 |
注意：組合和持久化都會(huì)涉及pickle技術(shù)，在sklearn的技術(shù)文檔中有說(shuō)明，將lambda定義的函數(shù)作為FunctionTransformer的自定義轉(zhuǎn)換函數(shù)將不能pickle化。
7 總結(jié)
2015年我設(shè)計(jì)了一個(gè)基于sklearn的自動(dòng)化特征工程的工具， 其以Mysql數(shù)據(jù)庫(kù)作為原始數(shù)據(jù)源，提供了“靈活的”特征提取、特征處理的配置方法，同時(shí)重新封裝了數(shù)據(jù)、特征和模型，以方便調(diào)度系統(tǒng)識(shí)別。說(shuō)靈活，其 實(shí)也只是通過(guò)配置文件的方式定義每個(gè)特征的提取和處理的sql語(yǔ)句。但是純粹使用sql語(yǔ)句來(lái)進(jìn)行特征處理是很勉強(qiáng)的，除去特征提取以外，我又造了一回輪 子，原來(lái)sklearn提供了這么優(yōu)秀的特征處理、工作組合等功能。所以，我在這個(gè)博客中先不提任何算法和模型，先從數(shù)據(jù)挖掘工作的第一步開(kāi)始，使用基于 Python的各個(gè)工具把大部分步驟都走了一遍（抱歉，我暫時(shí)忽略了特征提取），希望這樣的梳理能夠少讓初學(xué)者走彎路吧。
8 參考資料
總結(jié)
以上是生活随笔為你收集整理的转载：使用sklearn进行数据挖掘的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇： Percona Server 5.6 M
- 下一篇： iOS-应用生命周期