数据挖掘与数据抽样
??? 前段時間在做一個挖掘模型時,模型的特征決定了選擇的數(shù)據(jù)是嚴重有偏的,怎樣在這樣的數(shù)據(jù)上進行抽樣,得到能比較好地反映真實情況的數(shù)據(jù)樣本是很關鍵的。自己對統(tǒng)計學僅僅限于大學課程的學習,很少做過實驗,在做數(shù)據(jù)預處理走了一些彎路。下面對數(shù)據(jù)挖掘中的抽樣發(fā)表一點淺見。謝謝苦瓜兄弟解答,希望和大家多多交流:)
??? 在數(shù)據(jù)挖掘的數(shù)據(jù)預處理過程中,寬表數(shù)據(jù)往往是幾十萬,上百萬級記錄的。要對所有數(shù)據(jù)進行訓練,時間上很難滿足要求,因此對數(shù)據(jù)進行抽樣就很必要了,不同的數(shù)據(jù)抽樣方法對訓練結果模型的精度有很大影響??梢钥紤]用一些數(shù)據(jù)瀏覽工具,統(tǒng)計工具對數(shù)據(jù)分布做一定的探索,在對數(shù)據(jù)做充分的了解后,再考慮采用合適的數(shù)據(jù)抽樣方法,抽取樣本數(shù)據(jù)進行建模實驗。對一般的模型,比如客戶細分,主要是數(shù)據(jù)的聚類,我在做抽樣時用了隨機抽樣,也可以考慮整群抽樣;而做離網(wǎng)預警模型或者金融欺詐預測模型時,數(shù)據(jù)分布是嚴重有偏的,而且這種有偏數(shù)據(jù)對這類模型來說恰恰是至關重要的。一般采用分層抽樣和過度抽樣結合有不錯的效果,分層抽樣和過度抽樣的區(qū)別自己也不是很了解,現(xiàn)在只能是做個概述了。
??? 幾種常用的抽樣方法:
1.簡單隨機抽樣(simple random sampling)
將所有調查總體編號,再用抽簽法或隨機數(shù)字表隨機抽取部分觀察數(shù)據(jù)組成樣本。
優(yōu)點:操作簡單,均數(shù)、率及相應的標準誤計算簡單。
缺點:總體較大時,難以一一編號。
2.系統(tǒng)抽樣(systematic sampling)
又稱機械抽樣、等距抽樣,即先將總體的觀察單位按某一順序號分成n個部分,再從第一部分隨機抽取第k號觀察單位,依次用相等間距從每一部分各抽取一個觀察單位組成樣本。
優(yōu)點:易于理解、簡便易行。
缺點:總體有周期或增減趨勢時,易產生偏性。
3.整群抽樣(cluster sampling)
先將總體依照一種或幾種特征分為幾個子總體(類.群),每一個子總體稱為一層,然后從每一層中隨機抽取一個子樣本,將它們合在一起,即為總體的樣本,稱為分層樣本
優(yōu)點:便于組織、節(jié)省經(jīng)費。
缺點:抽樣誤差大于單純隨機抽樣。
4.分層抽樣(stratified sampling)
將總體樣本按其屬性特征分成若干類型或層,然后在類型或層中隨機抽取樣本單位,合起來組成樣本。有按比例分配和最優(yōu)分配(過度抽樣是否就是最優(yōu)分配方法?)兩種方案。
特點:由于通過劃類分層,增大了各類型中單位間的共同性,容易抽出具有代表性的調查樣本。該方法適用于總體情況復雜,各類別之間差異較大(比如金融客戶風險/非風險樣本的差異),類別較多的情況。
優(yōu)點:樣本代表性好,抽樣誤差減少。
from:http://www.chinabi.net/blog/user1/105/archives/2006/1006.html
總結
- 上一篇: 文档被保存但是语音识别的数据丢失
- 下一篇: mathtype公式如何在word中对齐