本帖最后由 azure_sky 于 2014-1-17 00:30 編輯

2).K-fold Cross Validation(記為K-CV)

將原始數(shù)據(jù)分成K組(一般是均分),將每個子集數(shù)據(jù)分別做一次驗證集,其余的K-1組子集數(shù)據(jù)作為訓練集,這樣會得到K個模型,用這K個模型最終的驗證集的分類準確率的平均數(shù)作為此K-CV下分類器的性能指標.K一般大于等于2,實際操作時一般從3開始取,只有在原始數(shù)據(jù)集合數(shù)據(jù)量小的時候才會嘗試取2.K-CV可以有效的避免過學習以及欠學習狀態(tài)的發(fā)生,最后得到的結果也比較具有說服性.

--------------------------------------------我是分界線------------------------------------------------------------------------------------

關于交叉驗證K-FOLD我有幾個問題：

1) 假設是4-fold的交叉驗證，需要跑四次SVM，有四個model。我想問，他們的SVM 的參數(shù)，比如c和g設置相同么？

2) k-fold CV經(jīng)常被用作參數(shù)選取。這個最佳參數(shù)是怎么得到的。

每個model會得到一個c和g的參數(shù)

然后對這k個參數(shù)加權平均么？

還是說，在進行k-fold cv時，所有模型使用相同的c和g參數(shù)。

3)關于k-fold的用法。 我常見的一種情況是，有訓練數(shù)據(jù)traindata和測試數(shù)據(jù)testdata

在traindata上跑交叉驗證，選取最佳參數(shù)，然后在testdata上進行預測。

現(xiàn)在的情況是，我只有traindata，我想要用k-fold交叉驗證在traindata。我關心的不是準確率，而是具體的預測值。

我知道libsvm中有一個 '-v'選項進行交叉驗證。

例如代碼? ???svr_model = svmtrain( data_label, data_scale, '-v','10' );

但是這樣獲得了一個model。能不能得到fold是怎么分的呢。

每個chunk是對應著哪些訓練數(shù)據(jù)的index？

每一個fold跑完，在那個 對應的1/k * length(traindata) 上預測的label是什么？

4)k-fold在訓練數(shù)據(jù)上進行預測，怎么操作。

比如我現(xiàn)在只有數(shù)據(jù)traindata。

我想得到k-fold cv在traindata上的預測值。

我可以進行如下操作么：

1) 用k-fold進行參數(shù)尋優(yōu)。得到最好的c和g。使用命令

[bestmse,bestc,bestg]=SVMcgForRegress(train_label ,traindata);

2) 用c和g，用traindata進行k-fold的訓練得到模型

cmd = ['-c ',num2str(bestc),' -g ',num2str(bestg),'-v 10 -s 3 -p 0.01'];

svr_model = svmtrain( train_label, traindata_scale, cmd );

3)用得到的model在整個traindata得到預測值

[pred_label] = svmpredict(train_label, traindata, svr_model);

這樣做感覺很奇怪。我可以在第二步得到對應的 k-fold數(shù)據(jù)劃分，以及在那個1/k chunk上的預測值么？

總結

以上是生活随笔為你收集整理的matlab 交叉验证 代码,交叉验证(Cross Validation)方法思想简介的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。