日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問(wèn) 生活随笔!

生活随笔

當(dāng)前位置: 首頁(yè) > 编程资源 > 编程问答 >内容正文

编程问答

predict函数 R_学习|R语言做机器学习的常用函数总结

發(fā)布時(shí)間:2023/12/1 编程问答 46 豆豆
生活随笔 收集整理的這篇文章主要介紹了 predict函数 R_学习|R语言做机器学习的常用函数总结 小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.

預(yù)測(cè)函數(shù):predict()?type="prob"判別該量度的昆蟲(chóng)歸類為A、B和C的概率;type="response":判別該量度的昆蟲(chóng)的類別;

預(yù)測(cè)分類的概率的函數(shù)predict(…, type)參數(shù)type:
R語(yǔ)音里面不同模型,參數(shù)type取值也不同。例如,可能取值有prob、posterior、raw(樸素貝葉斯)、probability(請(qǐng)參考使用包的幫助文檔確定),type="class"表示結(jié)果為分類。
mice包中的mice(data, m)函數(shù):通過(guò)鏈?zhǔn)椒匠坍a(chǎn)生多個(gè)虛值。data為數(shù)據(jù)框或包含不完整數(shù)據(jù)的矩陣,缺省值為NA;m為多重插補(bǔ)數(shù),默認(rèn)為5。(隨機(jī)森林)
stats包中的cutree(tree,k, h)函數(shù):把一棵樹(shù)變成一組數(shù)據(jù)。tree為hclust()函數(shù)產(chǎn)生的數(shù);k為分組數(shù)。

model_id?3)??

R語(yǔ)言plyr包合并、排序、分析數(shù)據(jù)并編制香農(nóng)-威納指數(shù)
plyr包中的colwise(fun)函數(shù):列式函數(shù),在數(shù)據(jù)框的列上操作的函數(shù)。fun為要數(shù)據(jù)框的列上操作的函數(shù)。
數(shù)據(jù)預(yù)處理包:dplyr常用包:
1、caret包中的train(formula, data, method,metirc, trControl, tuneGrid, preProcess)函數(shù)(不同調(diào)諧參數(shù)的預(yù)測(cè)模型):設(shè)置一個(gè)網(wǎng)格的調(diào)整參數(shù)的一些分類和回歸例程,適合每個(gè)模型,并計(jì)算基于重采樣的性能測(cè)量。method指定分類或回歸模型的字符串;metric指定將用于選擇的最佳模型的概要度量的字符串;trControl定義控制函數(shù)行為值的列表;tuneGrid一個(gè)數(shù)據(jù)框可能的調(diào)整值,列名與調(diào)整參數(shù)相同;preProcess為指定的預(yù)處理參數(shù)。
caret包中的trainControl(method,number, repeats, selectionFunction)函數(shù):訓(xùn)練控制參數(shù)。method為重采樣方法,有boot/boot632/cv/repeatedcv/LOOCV/LGOCV/none/oob/adaptive_cv/adaptive_boot/adaptive_LGOCV;number為重采樣的迭代次數(shù);repeats為幾重交叉驗(yàn)證;selectionFunction選擇最佳調(diào)整參數(shù)的函數(shù)。
caret包中的findCorrelation(x,cutoff)函數(shù):確定高度相關(guān)變量。x為相關(guān)系數(shù)矩陣;cutoff成對(duì)相關(guān)系數(shù)絕對(duì)值的截止值。
caret包中的rfeControl(functions,method, number)函數(shù):控制特征選擇算法。functions為一個(gè)模型擬合、預(yù)測(cè)和變量重要性的函數(shù)列表;method為外部的重采樣方法(boot、cv等);number為N-fold
CV或重采樣迭代次數(shù)。
caret包中的rfe(x,y, sizes, rfeControl)函數(shù):一個(gè)簡(jiǎn)單的逆向選擇,即遞歸特征選擇(RFE)。x為預(yù)測(cè)模型的數(shù)據(jù)庫(kù)或矩陣;y為訓(xùn)練集的輸出;sizes是應(yīng)保留特征數(shù)的整數(shù)數(shù)字向量;rfeControl為一個(gè)包含擬合和預(yù)測(cè)函數(shù)的選擇列表。
createdatapartition(y, times, p=0.5, list)函數(shù):創(chuàng)建一系列的測(cè)試/訓(xùn)練的分區(qū)。y為真實(shí)分類數(shù)據(jù),一個(gè)輸出的向量,如果是createtimeslices,這些應(yīng)該是按時(shí)間的順序;times為創(chuàng)建的分區(qū)的數(shù)目,除非重復(fù)實(shí)驗(yàn),否則需要一個(gè)就行;p訓(xùn)練集占數(shù)據(jù)集的比重;list為F是不將結(jié)果列在列表中。
createresample()函數(shù):創(chuàng)建一個(gè)或多個(gè)Bootstrap樣本;
Createfolds()函數(shù):將數(shù)據(jù)分為K組;
createtimeslices()函數(shù):創(chuàng)建交叉驗(yàn)證樣本信息可用于時(shí)間序列數(shù)據(jù)。
2、R語(yǔ)言sqldf包的sqldf()函數(shù):對(duì)數(shù)據(jù)框做SQL操作

<-sqldf("select?*?from?mtcars?where?carb=1?order?by?mpg",row.names=TRUE)

3、R中常用的幾個(gè)擴(kuò)展包,其中包括用ggplot2包來(lái)繪圖,用glmnet包做回歸,用tm包進(jìn)行文本挖掘,用plyr、reshape、lubridate和stringr包進(jìn)行數(shù)據(jù)預(yù)處理,stringr包處理字符串。
4、在數(shù)據(jù)分析的過(guò)程中,我們經(jīng)常需要對(duì)數(shù)據(jù)建模并做預(yù)測(cè)。在眾多的選擇中,randomForest, gbm和glmnet是三個(gè)尤其流行的R包,它們?cè)贙aggle的各大數(shù)據(jù)挖掘競(jìng)賽中的出現(xiàn)頻率獨(dú)占鰲頭,被坊間人稱為R數(shù)據(jù)挖掘包中的三駕馬車。根據(jù)我的個(gè)人經(jīng)驗(yàn),gbm包比同樣是使用樹(shù)模型的randomForest包占用的內(nèi)存更少,同時(shí)訓(xùn)練速度較快,尤其受到大家的喜愛(ài)。
irr包中的Kappa2()函數(shù):計(jì)算科恩Kappa和權(quán)重Kappa作為2者一致性的一個(gè)指標(biāo)。

(需要內(nèi)推數(shù)據(jù)工作,請(qǐng)加微信:luqin360)

一、線性回歸

R 中的工具:
regsubsets函數(shù)進(jìn)行feature選擇。
glmnet包用于ridge,lasso;
pls包中的pcr()函數(shù)用于PCR,plsr()函數(shù)用于PLS;
mgcv包用于GAM;
lme4包用于mixed effects model
1、通過(guò)car(DAAG)包的vif()函數(shù),返回的是方差的膨脹因子,如果膨脹因子大于10,則說(shuō)明有多重共線性(用于解決多重共線性,判斷膨脹因子)。用法如下:

library(DAAG)
lm.reg<-lm(Employed~GNP+Unemployed+Armed.Forces+Population+Year,data=longley)vif(lm.reg,digits=4)

膨脹因子大多大于10,存在嚴(yán)重的相關(guān)性
一般來(lái)說(shuō)kappa大于1000,或vif大于10說(shuō)明存在復(fù)共線性。
(car包中的)回歸診斷實(shí)用函數(shù)?

car包中的qqPlot(x, labels, id.method, simulate)函數(shù):分位比較圖。x為lm對(duì)象;labels為文本字符串向量;id.method為點(diǎn)識(shí)別方法;simulate為T,計(jì)算置信區(qū)間。2、car包的scatterplotMatrix()函數(shù):返回的是N*N的散點(diǎn)圖矩陣。增強(qiáng)的散點(diǎn)圖矩陣單因素顯示沿著對(duì)角線;SPM是scatterplotmatrix(散點(diǎn)圖矩陣)縮寫。此功能只需設(shè)置一個(gè)與自定義面板功能對(duì)的調(diào)用(用于畫圖判斷)。例如:

"Population",?

spread=T為方差函數(shù)的估計(jì);
car包中的scatterplot()函數(shù):可以很容易、方便地繪制二元關(guān)系圖;增強(qiáng)的散點(diǎn)圖
car包的vif()函數(shù):用于計(jì)算膨脹因子(用于解決多重共線性)。
car包中的outlierTest(model)函數(shù):Bonferrnoi離群點(diǎn)檢測(cè)。model為lm或glm對(duì)象。是根據(jù)單個(gè)最大(或正或負(fù))殘差值的顯著性來(lái)判斷是否有離群點(diǎn),若不顯著,則說(shuō)明數(shù)據(jù)集中沒(méi)有離群點(diǎn),若顯著,則必須刪除該離群點(diǎn),然后再檢驗(yàn)是否還有其他離群點(diǎn)存在。
car包中的influencePlot()函數(shù),可將離群點(diǎn)、杠桿點(diǎn)和強(qiáng)影響點(diǎn)的信息整合到一幅圖形中
car包中的influencePlot(mdoel,id.method)函數(shù):回歸影像圖。model為線性或廣義線性模型;id.method為“identify”為交互點(diǎn)識(shí)別。
3、psych包用于主成分分析
psych包中的princomp()函數(shù):可以根據(jù)原始數(shù)據(jù)或相關(guān)系數(shù)矩陣做主成分分析 。格式為:principal(x,nfactors=,rotate=,scores=)
其中:x是相關(guān)系數(shù)矩陣或原始數(shù)據(jù)矩陣;nfactors設(shè)定主成分個(gè)數(shù)(默認(rèn)為1);rotate指定旋轉(zhuǎn)的方式(“none”或“varimax”)[默認(rèn)最大方差旋轉(zhuǎn)(varimax);scores設(shè)定是否需要計(jì)算主成分得分(“T”或”F”)(默認(rèn)不需要)。
psych包中的fa.parallel()函數(shù):可以判斷主成分的個(gè)數(shù),其使用格式為: fa.parallel(x,fa = , n.iter
=)
其中,x為待研究的數(shù)據(jù)集或相關(guān)系數(shù)矩陣,fa為主成分分析(fa="pc")或者因子分析(fa = "fa"),n.iter指定隨機(jī)數(shù)據(jù)模擬的平行分析的次數(shù)。
4、利用MASS包中的函數(shù)lm.ridge()來(lái)實(shí)現(xiàn)嶺回歸
利用ridge包中的linearRidge()函數(shù)進(jìn)行自動(dòng)選擇嶺回歸參數(shù)
通過(guò)effects包中的effect()函數(shù),可以用圖形展示交互項(xiàng)的結(jié)果
利用ridge包中的linearRidge()函數(shù)進(jìn)行自動(dòng)選擇嶺回歸參數(shù)
5、lars包提供了lasso()函數(shù)(lasso:套鎖算法,用于解決多重共線性):Lasso算法則是一種能夠?qū)崿F(xiàn)指標(biāo)集合精簡(jiǎn)的估計(jì)方法。并利用AIC準(zhǔn)則和BIC準(zhǔn)則給統(tǒng)計(jì)模型的變量做一個(gè)截?cái)?#xff0c;進(jìn)而達(dá)到降維的目的。因此,我們通過(guò)研究Lasso可以將其更好的應(yīng)用到變量選擇中去。
lars包提供的lars()函數(shù):這些是套索所有的變種,并提供系數(shù)和適合整個(gè)序列,從零開(kāi)始,以最小二乘法擬合。
lars包的cv.lars()函數(shù):計(jì)算交叉驗(yàn)證誤差曲線的Lars。cva lars包中的coef.lars()函數(shù)或者predict.lars()函數(shù):從擬合的lars模型預(yù)測(cè)或提取系數(shù);當(dāng)lars()生產(chǎn)解決方案的整個(gè)路徑,predict.lars允許提取沿著路徑在特定的點(diǎn)預(yù)測(cè)。coef
S 一個(gè)值,或一個(gè)向量值,索引路徑。它的值取決于mode= argument。默認(rèn)情況下(mode= “step”),應(yīng)該采取p和0之間的值
Mode Mode="step"是指S =參數(shù)指標(biāo)的Lars的步數(shù),系數(shù)將返回相應(yīng)的值對(duì)應(yīng)于step s。如果mode="fraction",然后應(yīng)該是0和1之間的數(shù),它指的是系數(shù)向量范數(shù)比,相對(duì)為了規(guī)范在全最小二乘解。Mode="norm"指的是指L1范數(shù)的系數(shù)向量。Mode="lambda"用套索正則化參數(shù)的;其他型號(hào)是最大相關(guān)(不讓Lars
/逐步模型)。允許縮寫。
共glmnet包實(shí)現(xiàn)lasso套鎖算法,用cv.glmnet()函數(shù)來(lái)實(shí)現(xiàn)cv(交叉驗(yàn)證):做為glmnet K-fold交叉驗(yàn)證,產(chǎn)生了一個(gè)圖,并返回一個(gè)值λ。
gla 折疊數(shù)-默認(rèn)為10。雖然折疊數(shù)可以當(dāng)樣本容量大(留一CV),這是不推薦用于大型數(shù)據(jù)集。最小值是允許nfolds= 3

二、主成分分析

1、psych包的實(shí)例請(qǐng)參照 主成分分析2:psych包
psych包中的常用函數(shù):

#含多種可選的方差放置方法的主成分分析

psych包中的fa.parallel()函數(shù):可以判斷主成分的個(gè)數(shù),其使用格式為:
fa.parallel(x, fa = , n.iter =)
其中,x為待研究的數(shù)據(jù)集或相關(guān)系數(shù)矩陣,fa為主成分分析(fa= "pc")或者因子分析(fa = "fa"),n.iter指定隨機(jī)數(shù)據(jù)模擬的平行分析的次數(shù)。
psych包中的principal( )函數(shù):可以根據(jù)原始數(shù)據(jù)或相關(guān)系數(shù)矩陣做主成分分析,其使用格式為:
principal(x, nfactors =, rotate=, scores =)
其中,x是原始數(shù)據(jù)或相關(guān)系數(shù)矩陣,nfactors指定主成分個(gè)數(shù),rotate指定旋轉(zhuǎn)的方法(“none”或“varimax”),scores為是否需要計(jì)算主成分得分(“T”或”F”)。
使用fa()函數(shù)提取相應(yīng)的因子,fa()函數(shù)的格式如下:fa(r,nfactors=,n.obs=,rotate=,scores=,fm=)
r是相關(guān)系數(shù)矩陣或者原始數(shù)據(jù)矩陣;
nfactors設(shè)定提取的因子數(shù)(默認(rèn)為1);
n.obs是觀測(cè)數(shù)(輸入相關(guān)系數(shù)矩陣時(shí)需要填寫);
rotate設(shè)定旋轉(zhuǎn)的方法(默認(rèn)互變異數(shù)最小法);
scores設(shè)定是否計(jì)算因子得分(默認(rèn)不計(jì)算);
fm設(shè)定因子化方法(默認(rèn)極小殘差法)。
與PCA不同,提取公共因子的方法很多,包括最大似然法(ml)、主軸迭代法(pa)、加權(quán)最小二乘法(wls)、廣義加權(quán)最小二乘法(gls)和最小殘差法(minres)未旋轉(zhuǎn)的主軸迭代因子法

三、貝葉斯

1、e1071包的naiveBayes函數(shù)提供了naive bayes的具體實(shí)現(xiàn),其用法如下:

0,?

x:表示數(shù)字矩陣或數(shù)字變量的數(shù)據(jù)框;y:表示類向量;
laplace 默認(rèn)為0表示禁用拉普拉斯平滑,正數(shù)表示啟用拉普拉斯平滑
object:“NaiveBayes”類的對(duì)象
predict(object, newdata, type) object:naveBayes模型;newdata:測(cè)試數(shù)據(jù);type:預(yù)測(cè)類型,type如果為class代表是分類,如果是raw則代表概率的計(jì)算 ,predict函數(shù)分類需要指定type="class"
klaR包中的NaiveBayes()函數(shù):因?yàn)樵摵瘮?shù)比e1071包的naiveBayes()函數(shù)增加了兩個(gè)功能,一個(gè)是可以輸入先驗(yàn)概率,另一個(gè)是在正態(tài)分布基礎(chǔ)上增加了核平滑密度函數(shù)。
predict()預(yù)測(cè)函數(shù)需要指定type="class"來(lái)分類
2、tm包通常用于文本的分析:
tm包中的函數(shù)Corpus()(或VCorpus):導(dǎo)入數(shù)據(jù)。函數(shù)的用法如下:Corpus(x,readerControl = list(reader
= x$DefaultReader, language ="en"),…)
對(duì)于這些資料來(lái)源(x),tm 包提供了一些相關(guān)的函數(shù),比如:DirSource(處理目錄)、VectorSource(由文檔構(gòu)成的向量)、
DataframeSource(數(shù)據(jù)框)等。
tm 包中的tm_map()函數(shù):可以通過(guò)maps 方式將轉(zhuǎn)化函數(shù)實(shí)施到每一個(gè)單上。m_map()的主要用法如下:tm_map(x, FUN,
…, useMeta = FALSE, lazy = FALSE)
再介紹字符串的處理,分割函數(shù):strsplit。使用格式為:
strsplit(x,split, fixed = FALSE, perl = FALSE, useBytes = FALSE)
主要參數(shù)說(shuō)明:
X:字串向量,每個(gè)元素都將單獨(dú)進(jìn)行拆分。
Split:為拆分位置的字串向量,默認(rèn)為正則表達(dá)式匹配(fixed=FALSE)fixed=TRUE,表示使用普通文本匹配或正則表達(dá)式的精確匹配。
Perl:表示可以選擇是否兼容Perl的正則表達(dá)式的表述方式。
findFreqTerms(x, lowfreq, highfreq)函數(shù):在文檔術(shù)語(yǔ)或術(shù)語(yǔ)文檔矩陣中查找頻繁項(xiàng)。x為一個(gè)術(shù)語(yǔ)文檔矩陣;lowfreq為一個(gè)數(shù)字,表示較低的頻繁項(xiàng);highfreq為一個(gè)數(shù)字,表示較高的頻繁項(xiàng)
3、caret包的函數(shù):(有K近鄰算法的函數(shù)knn3)
createdatapartition(y, times, p=0.5, list)函數(shù):創(chuàng)建一系列的測(cè)試/訓(xùn)練的分區(qū)。y為真實(shí)分類數(shù)據(jù),一個(gè)輸出的向量,如果是createtimeslices,這些應(yīng)該是按時(shí)間的順序;times為創(chuàng)建的分區(qū)的數(shù)目,除非重復(fù)實(shí)驗(yàn),否則需要一個(gè)就行;p訓(xùn)練集占數(shù)據(jù)集的比重;list為F是不將結(jié)果列在列表中。
createresample()函數(shù):創(chuàng)建一個(gè)或多個(gè)Bootstrap樣本;
Createfolds()函數(shù):將數(shù)據(jù)分為K組;
createtimeslices()
函數(shù):創(chuàng)建交叉驗(yàn)證樣本信息可用于時(shí)間序列數(shù)據(jù)。
caret包中的knn3(formula,data, subset, k)函數(shù):K近鄰分類算法。formula為模型公式;data為數(shù)據(jù)集;subset為自數(shù)據(jù)集;k為選擇的近鄰個(gè)數(shù)
caret包中的predict.knn3(object,newdata, type)函數(shù)也可以寫成predict():K近鄰算法的預(yù)測(cè)函數(shù)。object為knn3類對(duì)象(K近鄰算法模型);newdata為要觀測(cè)數(shù)據(jù)的數(shù)據(jù)框;typetype如果為class代表是分類,如果是prop則代表概率的計(jì)算
4、gmodels包的CrossTable(x, y, prop.chisq, prop.t, dnn)函數(shù):獨(dú)立試驗(yàn)因素的交叉制表。 x為向量或矩陣,如果y指定,必須是一個(gè)向量;y為一個(gè)矩陣或數(shù)據(jù)框的向量;prop.chisq為T時(shí),每個(gè)單元的卡方貢獻(xiàn)將被包括;prop.t為T時(shí),t分布的分布率將被包括;dnn在結(jié)果的尺寸中被給予的名稱。

四、K近鄰(KNN) 算法

1、class包的knn(train, test, cl, k=1)函數(shù):tarin為訓(xùn)練集數(shù)據(jù)矩陣或數(shù)據(jù)框;test為測(cè)試集數(shù)據(jù)矩陣或數(shù)據(jù)框;cl為訓(xùn)練集的真實(shí)分類數(shù)據(jù),應(yīng)是因子類型的;k為選擇的近鄰個(gè)數(shù)
class包中的knn1(train,test, cl)函數(shù):即 knn 中選擇 k = 1 的情況,因此 knn1 是 knn 的一個(gè)退化情況。
class包中的knn.cv(train, cl, k, prob):K最近鄰交叉驗(yàn)證函數(shù)。train為訓(xùn)練集數(shù)據(jù);cl為訓(xùn)練集的真實(shí)分類因子;k為選擇的近鄰個(gè)數(shù);prob為T時(shí),投票獲勝類將以概率返回。
其使用的方法是leave-one-out cross validation。即所有的樣本點(diǎn)都算到訓(xùn)練集中去,不設(shè)置測(cè)試集。對(duì)每個(gè)訓(xùn)練集中的樣本點(diǎn),都使用剩余的樣本點(diǎn)中的 k 個(gè)最近鄰來(lái)進(jìn)行投票,從而決定該樣本點(diǎn)的分類。
2、 R語(yǔ)言里的kknn包也可以實(shí)現(xiàn)最鄰近算法——使用kknn函數(shù)

kknn(formula = formula(train),train, test, na.action =na.omit(), k= 7, distance = 2, kernel ="optimal", ykernel = NULL, scale=TRUE, contrasts= c('unordered' = "contr.dummy",ordered ="contr.ordinal")):為K最近鄰算法。其中,formula表示訓(xùn)練集的表達(dá)式對(duì)象;train為訓(xùn)練集的數(shù)據(jù)框或矩陣;test為測(cè)試集的數(shù)據(jù)庫(kù)或矩陣;distance為明科夫斯基距離;na.action 缺失值處理,默認(rèn)為去掉缺失值;kernel內(nèi)核使用,可能的選擇是“rectangular”(這是標(biāo)準(zhǔn)的加權(quán)KNN),"triangular","epanechnikov"(或β(2,2)),"biweight"(或β(3,3)),“triweight”(或β(4,4)),"cos","inv", "gaussian", "rank" and "optimal";k為考慮的鄰近數(shù)量
sample(x,size, replace=F, prob=NULL):采樣函數(shù)。x表示要取樣的源數(shù)據(jù)集,為一個(gè)向量;size非負(fù)整數(shù),要采樣的大小;replace表示是否為有返回采用,為F表示不返回采樣;prob用于獲取被采樣的向量的元素的概率權(quán)重向量
fitted():提取模型擬合值。
assign(x, value)賦值函數(shù)。x為變量名;value要賦值給x的值。assign("x",c(10.4, 5.6, 3.1, 6.4, 21.7)) 與x list.files(path, ignore.case):列出文件夾或目錄中的文件。path表示文件夾或路徑;ignore.case為T表示忽略大小寫。
read.fwf(file, widths):讀取固定格式寬度的文件到一個(gè)數(shù)據(jù)框中。file為要讀取的文件;widths給出寬度。
3、MASS包中的lda(x, grouping)函數(shù):線性判別分析。x為包含解釋性變量的矩陣或數(shù)據(jù)框;grouping為一個(gè)指定了觀測(cè)類因子
lad(formula, data, na.action)函數(shù):formula為分類公式;data為需要分類的數(shù)據(jù);na.action是否忽略NA值
4、caret包的函數(shù):(有K近鄰算法的函數(shù)knn3)

createdatapartition(y, times, p=0.5, list)函數(shù):創(chuàng)建一系列的測(cè)試/訓(xùn)練的分區(qū)。y為真實(shí)分類數(shù)據(jù),一個(gè)輸出的向量,如果是createtimeslices,這些應(yīng)該是按時(shí)間的順序;times為創(chuàng)建的分區(qū)的數(shù)目,除非重復(fù)實(shí)驗(yàn),否則需要一個(gè)就行;p訓(xùn)練集占數(shù)據(jù)集的比重;list為F是不將結(jié)果列在列表中。
createresample()函數(shù):創(chuàng)建一個(gè)或多個(gè)Bootstrap樣本;
Createfolds()函數(shù):將數(shù)據(jù)分為K組;
createtimeslices()函數(shù):創(chuàng)建交叉驗(yàn)證樣本信息可用于時(shí)間序列數(shù)據(jù)。
caret包中的knn3(formula,data, subset, k)函數(shù):K近鄰分類算法。formula為模型公式;data為數(shù)據(jù)集;subset為子數(shù)據(jù)集;k為選擇的近鄰個(gè)數(shù)
caret包中的predict.knn3(object,newdata, type)函數(shù)也可以寫成predict():K近鄰算法的預(yù)測(cè)函數(shù)。object為knn3類對(duì)象(K近鄰算法模型);newdata為要觀測(cè)數(shù)據(jù)的數(shù)據(jù)框;typetype如果為class代表是分類,如果是prop則代表概率的計(jì)算

五、決策樹(shù)

決策樹(shù)與隨機(jī)森林包總結(jié):
party包中的ctree()函數(shù):不能很好的處理缺失值,含有缺失值的實(shí)例有時(shí)會(huì)被劃分到左子樹(shù)中,有時(shí)會(huì)被劃分到右子樹(shù)中,由替代規(guī)則決定。predict()函數(shù):測(cè)試集與訓(xùn)練集的分類變量水平不同(因子水平不同時(shí)),對(duì)測(cè)試集的預(yù)測(cè)會(huì)失敗。
rpart包中的rpart()函數(shù):構(gòu)建決策樹(shù),允許選擇具有最小預(yù)測(cè)誤差的決策樹(shù),然后在使用predict函數(shù)進(jìn)行預(yù)測(cè)。
randomForst包中的randomForest()函數(shù):不能處理帶有缺失值的數(shù)據(jù);分類水平劃分?jǐn)?shù)量最大為32(即因子水平為32)
party包中的cforest()函數(shù):沒(méi)有限定分類屬性的水平劃分?jǐn)?shù)(即因子水平數(shù))
1、rpart包的rpart(formula, data, method,control, parms)函數(shù):擬合rpart模型。formula為擬合公式;data為數(shù)據(jù)集;method:樹(shù)的末端數(shù)據(jù)類型選擇相應(yīng)的變量分割方法:連續(xù)性method=“anova”,離散型method=“class”,計(jì)數(shù)型method=“poisson”,生存分析型method=“exp”;parms用來(lái)設(shè)置三個(gè)參數(shù):先驗(yàn)概率、損失矩陣、分類純度的度量方法(gini和information);control:為rpart算法的控制細(xì)節(jié)選項(xiàng);cost我覺(jué)得是損失矩陣,在剪枝的時(shí)候,葉子節(jié)點(diǎn)的加權(quán)誤差與父節(jié)點(diǎn)的誤差進(jìn)行比較,考慮損失矩陣的時(shí)候,從將“減少-誤差”調(diào)整為“減少-損失”
rpart函數(shù)用來(lái)實(shí)現(xiàn)CART(分類回歸樹(shù))
rpart包的rpart.control(minsplit, minbucket, maxdepth, cp,xval=10)函數(shù):對(duì)樹(shù)進(jìn)行一些設(shè)置。 minsplit是最小分支節(jié)點(diǎn)數(shù),這里指大于等于20,那么該節(jié)點(diǎn)會(huì)繼續(xù)分劃下去,否則停止;minbucket:葉子節(jié)點(diǎn)最小樣本數(shù);maxdepth:樹(shù)的深度;cp全稱為complexity parameter,指某個(gè)點(diǎn)的復(fù)雜度,對(duì)每一步拆分,模型的擬合優(yōu)度必須提高的程度,將要被修剪的rpart復(fù)雜性參數(shù);xval是10折交叉驗(yàn)證。
rpart.plot包的rpart.plot(x, type,extra, branch)函數(shù):畫出rpart(決策樹(shù))模型。x為rpart模型;extra在節(jié)點(diǎn)上顯示額外的信息,不同的數(shù)字代表不同的類型(請(qǐng)參考幫助);branch控制分支線的形狀,指定一個(gè)值在0(V形分支)和1(方形分支),默認(rèn)情況下(fallen.leaves)為1否則為2;type為畫圖的類型,分為5種:

0默認(rèn)。畫一個(gè)分裂的標(biāo)簽,在葉子的每一個(gè)分裂標(biāo)簽和一個(gè)節(jié)點(diǎn)標(biāo)簽。

1標(biāo)簽所有節(jié)點(diǎn),不只是樹(shù)葉。

2像1,但繪制的標(biāo)簽下面的節(jié)點(diǎn)標(biāo)簽。

3為左、右方向畫單獨(dú)的拆分標(biāo)簽。

4像3,但標(biāo)簽的所有節(jié)點(diǎn),不只是葉子節(jié)點(diǎn),類似于文本。
rpart包的printcp(model)函數(shù):顯示優(yōu)化剪枝后的復(fù)雜參數(shù)表格。x表示擬合的模型對(duì)象。
rpart包的prune(model, cp)函數(shù):選擇具有最小xerror的cp(復(fù)雜性參數(shù))函數(shù)。tree為擬合的模型對(duì)象;cp全稱為complexity parameter,指某個(gè)點(diǎn)的復(fù)雜度,對(duì)每一步拆分,模型的擬合優(yōu)度必須提高的程度,將要被修剪的rpart復(fù)雜性參數(shù)。
2、C50包中的C5.0(x, y, trials=1, costs)函數(shù):x要預(yù)測(cè)的數(shù)據(jù)框或矩陣;y為因子類型的預(yù)測(cè)分類;trials一個(gè)整數(shù)時(shí)為指定的迭代次數(shù),一個(gè)值表示一個(gè)單一的模型;costs表示與可能出現(xiàn)的錯(cuò)誤相關(guān)的成本矩陣。該矩陣應(yīng)具有碳列和行,其中,C是類級(jí)別的數(shù)
predict()預(yù)測(cè)函數(shù)需要指定type="class"來(lái)分類
3、在R中我們使用rpart包中的rpart()函數(shù)實(shí)現(xiàn)樹(shù)回歸(CART)
使用tree包中的tree()函數(shù)實(shí)現(xiàn)CART算法
4、party包中的ctree(formula, data, controls)函數(shù):決策樹(shù)。formula為模型擬合公式;data為訓(xùn)練數(shù)據(jù)集;controls為樹(shù)的控制條件,為ctree_control類。
party包中的ctree_control(minsplit,minbucket, maxsurrogate, maxdepth)函數(shù):party包中決策樹(shù)的控制條件。minsplit控制一個(gè)最小權(quán)重和的節(jié)點(diǎn)以便進(jìn)行分割;minbusket設(shè)置了一個(gè)最小權(quán)重和的葉子節(jié)點(diǎn);maxsurrogate表示替代分裂點(diǎn)的數(shù)量以便用于評(píng)估;maxdepth控制決策樹(shù)的深度。其中,minsplit/minbusket可以設(shè)置為訓(xùn)練集的1/100,這些參數(shù)的值可以根據(jù)商業(yè)問(wèn)題、領(lǐng)域?qū)<业慕?jīng)驗(yàn)、數(shù)據(jù)、執(zhí)行算法需要的合理時(shí)間以及 決策樹(shù)的期望規(guī)模來(lái)設(shè)置。

六、隨機(jī)森林

1、R語(yǔ)言中有兩個(gè)軟件包可以運(yùn)行隨機(jī)森林,分別是randomForest(Liaw,2012)和party
randomForest包中的randomForest(formula, data, ntree, nPerm, mtry, proximity,importace)函數(shù):隨機(jī)森林分類與回歸。ntree表示生成決策樹(shù)的數(shù)目(不應(yīng)設(shè)置太小);nPerm表示計(jì)算importance時(shí)的重復(fù)次數(shù),數(shù)量大于1給出了比較穩(wěn)定的估計(jì),但不是很有效(目前只實(shí)現(xiàn)了回歸);mtry表示選擇的分裂屬性的個(gè)數(shù);proximity表示是否生成鄰近矩陣,為T表示生成鄰近矩陣;importance表示輸出分裂屬性的重要性。
函數(shù)randomForest()中有兩個(gè)非常重要的參數(shù),而這兩個(gè)參數(shù)又將影響模型的準(zhǔn)確性,它們分別是mtry和ntree。一般對(duì)mtry的選擇是逐一嘗試,直到找到比較理想的值,ntree的選擇可通過(guò)圖形大致判斷模型內(nèi)誤差穩(wěn)定時(shí)的值。randomForest包無(wú)法處理包含缺失值或者擁有超過(guò)32個(gè)等級(jí)水平的分類變量。
randomForest包中的rfImpute(formula, data)函數(shù):填補(bǔ)缺失值的預(yù)測(cè)數(shù)據(jù)使用接近于隨機(jī)森林。
randomForest包中的varImpPlot(x)函數(shù):變量重要性圖,變量的重要性dotchart通過(guò)隨機(jī)森林測(cè)量。x為randomForest模型對(duì)象。
importance()函數(shù)用于計(jì)算模型變量的重要性
MDSplot()函數(shù)用于實(shí)現(xiàn)隨機(jī)森林的可視化
rfImpute()函數(shù)可為存在缺失值的數(shù)據(jù)集進(jìn)行插補(bǔ)(隨機(jī)森林法),得到最優(yōu)的樣本擬合值
treesize()函數(shù)用于計(jì)算隨機(jī)森林中每棵樹(shù)的節(jié)點(diǎn)個(gè)數(shù)
2、party包中的cforest(formula, data,controls)函數(shù):隨機(jī)森林模型。formula為建模公式;data為訓(xùn)練數(shù)據(jù);controls為隨機(jī)森林生長(zhǎng)的參數(shù)。
party包中的cforest_unbiased(mtry,ntree)函數(shù):隨機(jī)森林生長(zhǎng)的控制參數(shù)。mtry為隨機(jī)森林算法隨機(jī) 采樣輸入的變量數(shù);ntry為隨機(jī)森林的樹(shù)數(shù)目。

七、支持向量機(jī)

1、e1071包中的svm()函數(shù),如下:

NULL,?

主要參數(shù)說(shuō)明:
Formula:分類模型形式,在第二個(gè)表達(dá)式中使用的的x,y可以理解為y~x。
Data:數(shù)據(jù)集
Subset:可以指定數(shù)據(jù)集的一部分作為訓(xùn)練集
Na.action:缺失值處理,默認(rèn)為刪除數(shù)據(jù)條目
Scale:將數(shù)據(jù)標(biāo)準(zhǔn)化,中心化,使其均值為0,方差為1.默認(rèn)自動(dòng)執(zhí)行。
Type:SVM的形式,使用可參見(jiàn)上面的SVMformulation,type的選項(xiàng)有:C-classification,nu-classification,one-classification
(for noveltydetection),eps-regression,nu-regression。后面兩者為利用SVM做回歸時(shí)用到的,這里暫不介紹。默認(rèn)為C分類器,使用nu分類器會(huì)使決策邊界更光滑一些,單一分類適用于所有的訓(xùn)練數(shù)據(jù)提取自同一個(gè)類里,然后SVM建立了一個(gè)分界線以分割該類在特征空間中所占區(qū)域和其它類在特征空間中所占區(qū)域。
Kernel:指的是支持向量機(jī)的類型。在非線性可分時(shí),我們引入核函數(shù)來(lái)做非線性可分,R提供的核介紹如下:線性核linear:使用它的話就成為線性向量機(jī),效果基本等價(jià)于Logistic回歸。但它可以處理變量極多的情況,例如文本挖掘;多項(xiàng)式核(polynomial):n次多項(xiàng)式核函數(shù),適用于圖像處理問(wèn)題。選擇n的好方法是從1(一個(gè)線性模型)開(kāi)始,然后遞增至估計(jì)誤差不再改進(jìn)為止。通常,相當(dāng)小的數(shù)目就足夠了;高斯核(radial):高斯核函數(shù),最流行易用的選擇。參數(shù)包括了sigma,其值若設(shè)置過(guò)小,會(huì)有過(guò)度擬合出現(xiàn);Sigmoid核(sigmoid):反曲核函數(shù),多用于神經(jīng)網(wǎng)絡(luò)的激活函數(shù),默認(rèn)為高斯核(RBF);
在kernlab包中,可以自定義核函數(shù),實(shí)踐中,核函數(shù)的選擇一般并不導(dǎo)致結(jié)果準(zhǔn)確率的很大差別(也有特例!)。
Degree:多項(xiàng)式核的次數(shù),默認(rèn)為3
Gamma:除去線性核外,其他的核的參數(shù),默認(rèn)為1/數(shù)據(jù)維數(shù)
Coef0,:多項(xiàng)式核與sigmoid核的參數(shù),默認(rèn)為0
Cost:C分類的懲罰項(xiàng)C的取值,是違反約束時(shí)的成本函數(shù)。
Nu:nu分類,單一分類中nu的取值
Cross:做K折交叉驗(yàn)證,計(jì)算分類正確性。
class.weights用來(lái)指定各類別的權(quán)重(可用在各類數(shù)目不相同時(shí))。
probability:是否允許概率預(yù)測(cè)。
e1071包中的tune(method,train.x, train.y, kernel, ranges)函數(shù):使用網(wǎng)格搜索的參數(shù)調(diào)整。method為需要調(diào)整的函數(shù);train.x/train.y預(yù)測(cè)的自變量和因變量(可以用formula代替);kernel為模型使用的核函數(shù);ranges為采樣空間的參數(shù)向量。
e1071包中的tune.svm(formula, data, gamma, cost)函數(shù):調(diào)整函數(shù)。
fitted(object, …)返回模型在訓(xùn)練集上的預(yù)測(cè)值。
predict (object, …)返回模型的預(yù)測(cè)結(jié)果。當(dāng)x是訓(xùn)練集時(shí),pred predict函數(shù)分類需要指定type="class"
klaR包的svmlight()函數(shù)也可以實(shí)現(xiàn)SVM(支持向量機(jī))算法。
2、kernlab包中的ksvm(formula, data, kernal, type, kpar, C, prob.model)函數(shù):支持向量機(jī)模型。C約束違約成本(默認(rèn)值:1)這是'C'的正規(guī)化長(zhǎng)期在拉格朗日公式;kernel用于訓(xùn)練和預(yù)測(cè)的核心功能。這個(gè)參數(shù)可以被設(shè)置為任何函數(shù),類的內(nèi)核參數(shù),它計(jì)算的內(nèi)部產(chǎn)品在特征空間中的向量參數(shù)。kernlab提供最流行的核心功能,可以通過(guò)設(shè)置內(nèi)核參數(shù)的字符串:
rbfdot徑向基核“高斯”
polydot多項(xiàng)式核函數(shù)
vanilladot線性核
tanhdot雙曲正切核
laplacedot拉普拉斯核
besseldot貝塞爾核
anovadot ANOVA RBF核函數(shù)
splinedot樣條核
type表示是用于分類還是回歸,還是檢測(cè),取決于y是否是一個(gè)因子。缺省取C-svc或eps-svr。可取值有

C-svc  C classification
nu-svc  nu classification
C-bsvc  bound-constraint svm classification
spoc-svc  Crammer, Singer native multi-class
kbb-svc  Weston, Watkins native multi-class
one-svc  novelty detection
eps-svr  epsilon regression
nu-svr  nu regression
eps-bsvrbound-constraint svm regression
kpar超參數(shù)(核參數(shù))的列表。這是一個(gè)列表,其中包含了用于內(nèi)核函數(shù)的參數(shù)。對(duì)于現(xiàn)有內(nèi)核的有效參數(shù):
sigma inverse kernelwidth for the Radial Basis kernel function "rbfdot"
and the Laplaciankernel "laplacedot".
degree, scale,offset for the Polynomial kernel "polydot"
scale, offset forthe Hyperbolic tangent kernel function "tanhdot"
sigma, order, degreefor the Bessel kernel "besseldot".
sigma, degree forthe ANOVA kernel "anovadot".
length, lambda,normalized for the "stringdot" kernel where length
is the length ofthe strings considered, lambda the decay factor and normalized
a logicalparameter determining if the kernel evaluations should be normalize
prob.model如果設(shè)置為true,建立一個(gè)模型類的概率或在回歸計(jì)算,計(jì)算擬合殘差的拉普拉斯分布的尺度參數(shù)。對(duì)輸出數(shù)據(jù)進(jìn)行擬合,對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行交叉驗(yàn)證了3倍。默認(rèn)為F。
二分類問(wèn)題:

2),?matrix(rnorm(

八、神經(jīng)網(wǎng)絡(luò)

1、nnet包中的class.ind(cl)函數(shù):從一個(gè)因子生成類指標(biāo)矩陣。cl為類的因子或向量。返回值為:除了與類對(duì)應(yīng)的列外,該矩陣為0。生成類別的示性函數(shù)
nnet包中的nnet(x,y, size, rang, decay, maxit, skip, Hess, trace)函數(shù):單層的前向神經(jīng)網(wǎng)絡(luò)模型。size神經(jīng)網(wǎng)絡(luò)隱藏層的神經(jīng)元個(gè)數(shù);rang初始隨機(jī)權(quán)值[-rang,rang];decay經(jīng)元輸入權(quán)重的一個(gè)修改偏正參數(shù),表明權(quán)值是遞減的(可以防止過(guò)擬合);maxit最大反饋迭代次數(shù);skip是否允許跳過(guò)隱藏層;Hess是否輸出Hessian值;trace指出是否要最優(yōu)化。
適用于神經(jīng)網(wǎng)絡(luò)的方法有predict,print和summary等,nnetHess函數(shù)用來(lái)計(jì)算在考慮了權(quán)重參數(shù)下的Hessian矩陣,并且檢驗(yàn)是否是局部最小。
2、AMORE包中的newff(n.neurons, learning.rate.global, momentum.global, error.criterium, Stao, hidden.layer, output.layer, method)函數(shù):創(chuàng)建多層前饋神經(jīng)網(wǎng)絡(luò)。n.neurons是個(gè)數(shù)值向量,包含在每個(gè)層的神經(jīng)元的數(shù)目,第一個(gè)數(shù)是輸入神經(jīng)元的數(shù)量,最后是輸出神經(jīng)元的數(shù)量,其余的都是隱藏層神經(jīng)元的數(shù)量;learning.rate.global全局的學(xué)習(xí)率;momentum.global全局的動(dòng)量值(有的學(xué)習(xí)算法需要設(shè)置這個(gè)值貌似是步長(zhǎng));error.criterium誤差衡量算法,我用誤差平方和,所以選“LMS”,“LMLS”為對(duì)數(shù)平方差,“TAO”為TAO
Error;hidden.layer隱藏層激活函數(shù);output.layer輸出層激活函數(shù);method學(xué)習(xí)方法,翻譯過(guò)來(lái)都是梯度下降,不是BP最速下降;Stao
為Taobao錯(cuò)誤判斷標(biāo)準(zhǔn)。
AMORE包中的train(net,P, T, error.criterium, report, show.step, n.shows)函數(shù):神經(jīng)網(wǎng)絡(luò)訓(xùn)練函數(shù)。對(duì)于一個(gè)給定的數(shù)據(jù)集(訓(xùn)練集),此功能修改的神經(jīng)網(wǎng)絡(luò)的權(quán)重和偏差的近似的訓(xùn)練集中存在的變量之間的關(guān)系。這些可以滿足一些需要,即擬合非線性函數(shù)。
其中,net為神經(jīng)網(wǎng)絡(luò)訓(xùn)練;P為輸入的訓(xùn)練集;T為輸出的訓(xùn)練集;error.criterium為衡量擬合優(yōu)度的標(biāo)準(zhǔn)(LMS、LMLS、TAO);report表示訓(xùn)練函數(shù)是否保持安靜(或應(yīng)在訓(xùn)練過(guò)程中提供圖形/文字信息);show.step直到訓(xùn)練函數(shù)給出結(jié)果的最大值;n.shows報(bào)告訓(xùn)練的次數(shù)。
AMORE包的sim(net,P)函數(shù):計(jì)算給定數(shù)據(jù)集神經(jīng)網(wǎng)絡(luò)的輸出值。net模擬神經(jīng)網(wǎng)絡(luò);P輸入數(shù)據(jù)集。
3、neuralnet包中的neuralnet(formula, data,hidden)函數(shù):神經(jīng)網(wǎng)絡(luò)訓(xùn)練函數(shù)。hidden一個(gè)向量的整數(shù),指定在每一層中的隱層神經(jīng)元(頂點(diǎn))的數(shù)目。hidden=c(3)表示第一個(gè)隱藏層的3個(gè)隱藏單元;hidden=c(3,
2)分別表示第一、第二隱藏層的3個(gè)和2個(gè)隱藏單元。
neuralnet包中的compute(x, covariate):神經(jīng)網(wǎng)絡(luò)計(jì)算一個(gè)給定的變量向量。x為NN的模型;covariate用來(lái)訓(xùn)練神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)框或矩陣。相當(dāng)于predict函數(shù)(neuralnet中無(wú)predict函數(shù))

九、聚類:層次聚類、動(dòng)態(tài)聚類Kmeans

距離和相似系數(shù)
stats包中的dist(x, method = "euclidean",diag= FALSE, upper = FALSE,p = 2) :來(lái)計(jì)算距離。
其中,x是樣本矩陣或者數(shù)據(jù)框。
method表示計(jì)算哪種距離,method的取值有:“euclidean” 歐幾里德距離,就是平方再開(kāi)方;“maximum ”切比雪夫距離
;“manhattan”絕對(duì)值距離;“canberra” Lance 距離 ;“minkowski”明科夫斯基距離,使用時(shí)要指定p值;“binary
”定性變量距離.定性變量距離: 記m個(gè)項(xiàng)目里面的 0:0配對(duì)數(shù)為m0 ,1:1配對(duì)數(shù)為m1,不能配對(duì)數(shù)為m2,距離=m1/(m1+m2);
diag 為TRUE的時(shí)候給出對(duì)角線上的距離。
upper為TURE的時(shí)候給出上三角矩陣上的值。
stats包中的as.dist(m,diag=F, upper=F)函數(shù):m為距離信息的對(duì)象將被轉(zhuǎn)換為一個(gè)“dist”對(duì)象。默認(rèn)的方法,“dist”對(duì)象,或一個(gè)矩陣(距離)或一個(gè)對(duì)象可以強(qiáng)制轉(zhuǎn)換為一個(gè)矩陣。(僅使用矩陣的下三角,其余的則被忽略)。diag是否顯示距離矩陣的對(duì)角線。upper是否顯示矩陣的上三角。
stats包中的scale(x, center = TRUE, scale = TRUE) :對(duì)數(shù)據(jù)矩陣做中心化和標(biāo)準(zhǔn)化變換。如只中心化 scale(x,scale=F)
eigen():返回矩陣的特征值和特征向量
stats包中的sweep(x, MARGIN, STATS, FUN="-",…) :對(duì)矩陣進(jìn)行運(yùn)算。MARGIN為1,表示行的方向上進(jìn)行運(yùn)算,為2表示列的方向上運(yùn)算。STATS是運(yùn)算的參數(shù)。FUN為運(yùn)算函數(shù),默認(rèn)是減法。
fpc包中的plotcluster(x,clvecd)函數(shù):判別投影圖。x為矩陣或者可以轉(zhuǎn)化為矩陣的數(shù)字對(duì)象;clvecd為可以轉(zhuǎn)化為整數(shù)的類向量。
1、層次聚類
stats包中的hclust(d,method = "complete", members=NULL) 函數(shù):進(jìn)行層次聚類。d為距離矩陣;method表示類的合并方法,single最短距離法,complete最長(zhǎng)距離法,median中間距離法,mcquitty 相似法,average 類平均法,centroid重心法,ward離差平方和法;members為NULL或d長(zhǎng)度的矢量。
stats包中的cutree(tree,k, h)函數(shù):把一棵樹(shù)變成一組數(shù)據(jù)。tree為hclust()函數(shù)產(chǎn)生的數(shù);k為分組數(shù)。
stats包中的rect.hclust(tree, k =NULL, which = NULL, x = NULL, h = NULL,border
= 2, cluster = NULL)函數(shù):繪制矩形周圍的層次聚類,來(lái)確定類的個(gè)數(shù)。tree就是求出來(lái)的對(duì)象。k為分類的個(gè)數(shù),h為類間距離的閾值。border是畫出來(lái)的顏色,用來(lái)分類的。
2、動(dòng)態(tài)聚類:Kmeans
stats包中的kmeans(x,centers, iter.max = 10, nstart = 1,algorithm =c("Hartigan-Wong","Lloyd","Forgy",
"MacQueen")):來(lái)進(jìn)行聚類。x為數(shù)字矩陣。centers是初始類的個(gè)數(shù)或者初始類的中心。iter.max是最大迭代次數(shù)。nstart是當(dāng)centers是數(shù)字的時(shí)候,隨機(jī)集合的個(gè)數(shù)。algorithm是算法,默認(rèn)是第一個(gè)。
3、DBSCAN聚類
fpc包中的dbscan(data,eps, MinPts, scale, method, seeds, showplot, countmode)函數(shù):產(chǎn)生基于密度的任意形狀的聚類。data為數(shù)據(jù)框或矩陣;eps是距離的半徑,eps參數(shù)設(shè)為0.6,即兩個(gè)點(diǎn)之間距離小于0.6則歸為一個(gè)簇;minpts是最少多少個(gè)點(diǎn);
scale是否標(biāo)準(zhǔn)化(我猜);method 有三個(gè)值raw,dist,hybird,分別表示,數(shù)據(jù)是原始數(shù)據(jù)避免計(jì)算距離矩陣,數(shù)據(jù)就是距離矩陣,數(shù)據(jù)是原始數(shù)據(jù)但計(jì)算部分距離矩陣;showplot畫不畫圖,0不畫,1和2都畫;countmode,可以填個(gè)向量,用來(lái)顯示計(jì)算進(jìn)度。
如果eps設(shè)置過(guò)大,則所有的點(diǎn)都會(huì)歸為一個(gè)簇,如果設(shè)置過(guò)小,那么簇的數(shù)目會(huì)過(guò)多。如果MinPts設(shè)置過(guò)大的話,很多點(diǎn)將被視為噪聲點(diǎn)。
fpc包中的plotcluster(x,clvecd)函數(shù):判別投影圖。x為矩陣;clvecd為用整數(shù)表示類的向量。

十、EM算法:最大期望算法(Expectation-maximizationalgorithm,又譯期望最大化算法)

1、mclust包中的Mclust(data, G)函數(shù):基于模型的聚類,BICEM采用分層高斯混合模型聚類初始化參數(shù)優(yōu)化模型。G為BIC要計(jì)算的混合分量的整數(shù)向量;
mclust包中的mclustBIC()函數(shù):BIC基于模型的聚類。predict函數(shù)分類需要指定type="class"

十一、Bootstrap(自助法)算法

boot包中在boot(data, statistic, R, formula)函數(shù):自助算法。data:數(shù)據(jù),可以是向量,矩陣,數(shù)據(jù)框;statistic:統(tǒng)計(jì)量,如均值,中位數(shù),回歸參數(shù),回歸里的R^2等;R:調(diào)用統(tǒng)計(jì)量函數(shù)次數(shù)
boot包中的boot.ci(boot.out,type)函數(shù):實(shí)現(xiàn)Bootstrap置信區(qū)間的計(jì)算。boot.out為boot()的輸出結(jié)果;type返回置信區(qū)間的類型,R中提供的有"norm","basic",
"stud","perc", "bca",all可以指定包含所有。

十二、bagging(裝袋)算法

1、ipred包中的bagging(formula, data)函數(shù):裝袋分類,回歸和存活樹(shù)。
2、adabag包中的bagging(formula, data)函數(shù):裝袋分類,回歸和存活樹(shù)。

十三、Boosting、adaboost、xgboost

1、boosting回歸,使用到的函數(shù)包為mboost,使用函數(shù)為mboost.用法如下:
mboost(formula, data= list(),baselearner = c("bbs", "bols",
"btree","bss", "bns"), …)
其中formular需要使用到函數(shù)btree():
btree(…,tree_controls = ctree_control(stump = TRUE, mincriterion = 0,
savesplitstats =FALSE))
2、adabag包中的boosting(formula, data)函數(shù):用Adaboost.M1算法創(chuàng)建模型。
adabag包中的errorevol(object,newdata)函數(shù):計(jì)算誤差演變的步驟。object為boosting()函數(shù)或bagging()函數(shù)的輸出;newdata為新數(shù)據(jù)。
predict函數(shù)分類需要指定type="class"
3、xgboost包中的xgb.DMatrix(data, missing)函數(shù):構(gòu)建xgb.dmatrix對(duì)象從稠密矩陣,稀疏矩陣或本地文件。data為數(shù)據(jù)對(duì)象;missing表示為稠密矩陣時(shí),選擇充當(dāng)缺失值的數(shù)。
xgboost包中的xgboost(data,label, max.depth, eta, nround, objective)函數(shù):創(chuàng)建xgboost模型的一個(gè)接口,可以使用更先進(jìn)的xgb.train()函數(shù)接口。data為dgCMatrix、本地文件或者xgb.DMatrix;label為響應(yīng)變量,如果為本地文件或xgb.DMatrix時(shí)不必設(shè)置此文件;eta為每提高一步的時(shí)間步長(zhǎng);max.depth為樹(shù)的最大深度;nround為最大迭代次數(shù);objective函數(shù),reg:linear表示線性回歸,binary:logistic表示分類的邏輯線性回歸。
xgboost包中的xgb.cv(data,label, max.depth, eta, nround, objective, nfold)函數(shù):創(chuàng)建xgboost模型的Cross
Valudation功能。data為dgCMatrix、本地文件或者xgb.DMatrix;label為響應(yīng)變量,如果為本地文件或xgb.DMatrix時(shí)不必設(shè)置此文件;eta為每提高一步的時(shí)間步長(zhǎng);max.depth為樹(shù)的最大深度;nround為最大迭代次數(shù);objective函數(shù),reg:linear表示線性回歸,binary:logistic表示分類的邏輯線性回歸;nfold為原始數(shù)據(jù)集隨機(jī)劃分成大小相等的子樣本nfold。
xgboost包中的xgb.train(param=list(),data, nrounds)函數(shù):極限階梯訓(xùn)練模型。param為參數(shù)列表;data作為一個(gè)xgb.dmatrix作為輸入;nrounds表示迭代的最大次數(shù)。

十四、協(xié)同過(guò)濾:

1、recommenderlab包中的rowCounts(x)函數(shù):每行的評(píng)分。x為ratingMatrix對(duì)象。
recommenderlab包中的colCounts(x)函數(shù):每列的評(píng)分。x為ratingMatrix對(duì)象。
recommenderlab包中的rowMeans(x)函數(shù):行式的評(píng)級(jí)法。x為ratingMatrix對(duì)象。
recommenderlab包中的Recommender(data, k, method, Normalize, normalize_sim_matrix,na_as_zero,
minRating)函數(shù):創(chuàng)建推薦模型。data為訓(xùn)練數(shù)據(jù);K取多少個(gè)最相似的item,默認(rèn)為30;method相似度算法,默認(rèn)為采用余弦相似算法cosine;Normalize采用何種歸一化算法,默認(rèn)均值歸一化x-mean;normalize_sim_matrix是否對(duì)相似矩陣歸一化,默認(rèn)為否;na_as_zero是否將NA作為0,默認(rèn)為否;minRating:最小評(píng)分,默認(rèn)不設(shè)置;
recommenderlab提供了6中不同的推薦方法method:random(隨機(jī)推薦(real ratings)),popular(基于流行度推薦(real
data)),ibcf(基于項(xiàng)目協(xié)同過(guò)濾(real data)),ubcf(基于用戶協(xié)同過(guò)濾(real data)),SVD(基于SVD近似推薦(real
data)),PCA(基于主成分分析的推薦(real data))
recommenderlab包中的predict(object, data, n, type)函數(shù):使用推薦模型預(yù)測(cè)。object為推薦模型;data為測(cè)試數(shù)據(jù)集;n為top-N推薦名單號(hào)碼。type推薦類型,默認(rèn)的類型是“topnlist”創(chuàng)建一個(gè)推薦列表與建議。“rating”收益預(yù)測(cè)與已知的評(píng)級(jí)代表的Na。”ratingmatrix”返回一個(gè)完成評(píng)分矩陣。
recommenderlab包中的evaluationScheme(data, method, train, given, goodRating)函數(shù):創(chuàng)建模型評(píng)估方案。data為ratingMatrix數(shù)據(jù)集;train劃分為訓(xùn)練集的數(shù)據(jù)比例;given表示用來(lái)進(jìn)行模型評(píng)價(jià)的items的數(shù)量;goodRating評(píng)價(jià)的閥值,goodRating=5表示大于等于5的都是好的;k運(yùn)行評(píng)估的折數(shù)或倍數(shù)(split的默認(rèn)值為1)
method為評(píng)估的方法,有簡(jiǎn)單劃分split、k折交叉驗(yàn)證cross-validation、自助法bootstrap。split為是隨機(jī)分配給訓(xùn)練集的對(duì)象的比例,并將其用于測(cè)試集,默認(rèn)為1;cross-validation創(chuàng)建一個(gè)交叉驗(yàn)證方案。數(shù)據(jù)被隨機(jī)分成K個(gè)和每個(gè)運(yùn)行K-1部分用于訓(xùn)練,其余部分用于測(cè)試。在所有的運(yùn)行后,每一部分都被用作測(cè)試集;bootstrap創(chuàng)建的訓(xùn)練集,通過(guò)取一個(gè)引導(dǎo)樣本(采樣與更換)的大小在數(shù)據(jù)集的數(shù)量。所有的對(duì)象不在訓(xùn)練集被用于測(cè)試。
recommenderlab包中的getData(x, type)函數(shù):讀取數(shù)據(jù)。x為evaluationScheme模型;type為trian、know、unknown(train表示訓(xùn)練集數(shù)據(jù);know表示用戶已經(jīng)評(píng)分的,要用來(lái)預(yù)測(cè)的items;unknown表示用戶已經(jīng)評(píng)分,要被預(yù)測(cè)以便于進(jìn)行模型評(píng)價(jià)的items)getData 的參數(shù) given 便是來(lái)設(shè)置用于預(yù)測(cè)的項(xiàng)目數(shù)量。
recommenderlab包中的dropNA(x)函數(shù):顯示稀疏矩陣不包含NA。x為矩陣。
recommenderlab包中的normalize(x, method)函數(shù):標(biāo)準(zhǔn)化。x為一個(gè)realRatingMatrix;method為標(biāo)準(zhǔn)化的方法,有center和Z-score兩種。
recommenderlab包中的evaluate(x, method, n)函數(shù):評(píng)估推薦模型。x為評(píng)估計(jì)劃,evaluationScheme類型;type為評(píng)估“topNList”或“ratings";n為top-N的推薦數(shù),只有在type="topNList"時(shí);
method為字符串或列表。如果給定一個(gè)字符串,它定義了用于評(píng)價(jià)的推薦方法。如果幾個(gè)推薦方法需要進(jìn)行比較,方法包含一個(gè)嵌套列表。每個(gè)元素描述一個(gè)推薦方法,包括一個(gè)列表,包含兩個(gè)元素:一個(gè)名為“方法”的字符串,包含該方法的方法和一個(gè)列表名“參數(shù)”,包含用于此推薦方法的參數(shù)。
recommenderlab包中的plot()函數(shù):為評(píng)價(jià)結(jié)果創(chuàng)建ROC曲線圖或者precision-recall曲線圖。annotate為T/F(evaluate為字符串時(shí)),為N、1:N(evaluate為list時(shí))
2、reshape包的cast(data, forumla, value)函數(shù):鑄造函數(shù),鑄造成你想要的形狀。data為要改變的數(shù)據(jù)框;formula為鑄造函數(shù);value為列名。
3、arules包中的image()函數(shù):二元關(guān)聯(lián)矩陣的視覺(jué)檢查。(默認(rèn)在加載recommenderlab包時(shí)加載)

十五、關(guān)聯(lián)規(guī)則(Aprior算法)

R中提供了兩個(gè)專用于關(guān)聯(lián)規(guī)則的軟件包,即arules包和arulesViz包,前者用于產(chǎn)生關(guān)聯(lián)規(guī)則的定量化結(jié)果,后者用于產(chǎn)生關(guān)聯(lián)規(guī)則的可視化結(jié)果。

list(minlen=

arules包中的apriori(data,parameter=list(support,minlen, maxlen, confidence))函數(shù):Aprior算法挖掘頻繁項(xiàng)集的關(guān)聯(lián)規(guī)則,Apriori算法采用逐層尋找頻繁項(xiàng)集。
data為transactions類型對(duì)象或者任何可以轉(zhuǎn)化為transactions類型的數(shù)據(jù)結(jié)構(gòu);
parameter為APparameter類型的對(duì)象,參數(shù)有support項(xiàng)目集的最小支持度值(默認(rèn)為0.1);minlen為項(xiàng)目集每項(xiàng)的最小數(shù)目2(默認(rèn)為1),可以刪除項(xiàng)集為空和1的;maxlen為項(xiàng)目集每項(xiàng)的最大數(shù)目(默認(rèn)為10);confidence為可信度(默認(rèn)為0.8)
data為apriori函數(shù)和eclat函數(shù)所能接受的“交易”格式數(shù)據(jù),可以通過(guò)as()函數(shù)將常見(jiàn)的二元矩陣、數(shù)據(jù)框進(jìn)行轉(zhuǎn)換;
parameter以列表的形式存儲(chǔ)模型所需的支持度、置信度、每個(gè)項(xiàng)集所含項(xiàng)數(shù)的最大值/最小值和輸出結(jié)果類型等參數(shù),默認(rèn)情況下支持度為0.1,置信度為0.8,項(xiàng)集中最大項(xiàng)數(shù)為10,最小項(xiàng)數(shù)為1,輸出關(guān)聯(lián)規(guī)則/頻繁項(xiàng)集類型的結(jié)果;
appearance可為先決條件X和關(guān)聯(lián)結(jié)果Y指定明確的項(xiàng)集(一般是分析人員感興趣的項(xiàng)集),默認(rèn)情況下不為X和Y指定某些項(xiàng)集;在appearance中設(shè)置rhs=c("Survived=No","Survived=Yes")確保關(guān)聯(lián)規(guī)則的右側(cè)rhs只出現(xiàn)"Survived=No"和
"Survived=Yes",當(dāng)設(shè)置default="lhs"時(shí)所有的項(xiàng)集都可以出現(xiàn)在作出lhs上,關(guān)聯(lián)規(guī)則的左側(cè);both為關(guān)聯(lián)規(guī)則的兩側(cè)。
control用來(lái)控制函數(shù)性能,如對(duì)項(xiàng)集進(jìn)行升序或降序,生成算法運(yùn)行的報(bào)告進(jìn)程等,verbose=F可以設(shè)置壓縮過(guò)程的細(xì)節(jié)信息
arules包中的quality(rules)函數(shù):返回挖掘的結(jié)果,包括支持度、置信度和提升度。rules為Aprior模型。
arules包中的is.subset(x,y)函數(shù):查找超集和子集,查詢x中的每個(gè)元素是否為y的子集。注意,此方法非常消耗內(nèi)存,因此非常慢。
arules包中的inspect(x)函數(shù):顯示關(guān)聯(lián)規(guī)則或可讀形式的transactions。x為關(guān)聯(lián)規(guī)則、transactions、itemMatrix類型數(shù)據(jù)集。
arules包中的subset(x,subset)函數(shù):求關(guān)聯(lián)規(guī)則、transactions、itemMatrix的子集。subset為元素的邏輯表達(dá)式。
arules包中的sort(x,decreasing, by)函數(shù):關(guān)聯(lián)規(guī)則的排序方法。decreasing默認(rèn)為decreasing=T降序排序,升序?yàn)閐ecreasing=F;by為排序的屬性,默認(rèn)為按一個(gè)屬性排序。
arules包中的eclat(data,parameter)函數(shù):eclat算法挖掘頻繁數(shù)據(jù)集項(xiàng)。data為transactions類型或者任何可以轉(zhuǎn)化為transactions類型的數(shù)據(jù)結(jié)構(gòu)。parameter為ECparameter類型對(duì)象,參數(shù)有support項(xiàng)目集的最小支持度值(默認(rèn)為0.1),minlen為項(xiàng)目集每項(xiàng)的最小數(shù)目(默認(rèn)為1),maxlen為項(xiàng)目集每項(xiàng)的最大數(shù)目(默認(rèn)為10),confidence為可信度(默認(rèn)為0.8)
arules包中的itemFrequency()函數(shù):獲取單項(xiàng)的頻率或支持度。
arules包中的itemFrequencyPlot(x,support, topN)函數(shù):創(chuàng)建一個(gè)item頻率的條形圖,針對(duì)transcation數(shù)據(jù)畫頻繁項(xiàng)的圖。support為最小支持度;topN為畫出最大頻率的前topN項(xiàng),按降序作圖。
2、關(guān)聯(lián)規(guī)則、頻繁數(shù)據(jù)集圖形可視化參數(shù)
arulesViz包中的plot(x, shading, control, method)函數(shù):關(guān)聯(lián)規(guī)則和itemsets可視化的繪圖方法。x為關(guān)聯(lián)規(guī)則或者頻繁數(shù)據(jù)集對(duì)象;method為畫圖方法(有10種方法);shading為陰影選項(xiàng);control為控制圖像參數(shù)列表。

十六、PageRank算法

1、igraph包中的random.graph.game()函數(shù)或者erdos.renyi.game(n, p.or.m,directed)函數(shù):根據(jù)Erdos-Renyi模型生成隨機(jī)圖形。n為圖中的頂點(diǎn)數(shù);p.or.m為以任意兩點(diǎn)為邊的概率或者圖中的邊數(shù);directed圖是否將被引導(dǎo),默認(rèn)為F。
igraph包中的page.rank(graph)函數(shù):PageRank算法。graph對(duì)象。
2、dplyr包中的arrange(.data, …)函數(shù):按變量排列成行,可以使用desc來(lái)降序排列變量。

十七、時(shí)間序列常用到的函數(shù)

1、stats包中的HoltWinters(x, gamma)函數(shù):霍爾特-溫特斯計(jì)算一個(gè)給定的時(shí)間序列過(guò)濾波。x為ts的對(duì)象;gamma用于季節(jié)性成分的γ參數(shù),如果設(shè)置為假,則一個(gè)非季節(jié)性模型。
stat包中的ts(data,start, end, frequency)函數(shù):創(chuàng)建時(shí)間序列的對(duì)象。data為時(shí)間序列值的向量或矩陣;start為第一次觀察的時(shí)間;end為最后一次觀察的時(shí)間;frequency為每單位時(shí)間的觀測(cè)次數(shù)。
stats包中的plot.ts()函數(shù):畫時(shí)間對(duì)象的圖形。
stats包中的ts.plot()函數(shù):畫幾個(gè)時(shí)間序列的共同圖,但frequency要相同;plot.ts()基于不同的時(shí)間序列基線
stats包中的lag.plot(x, lags,do.lines)函數(shù):時(shí)間序列的延遲圖。x表示時(shí)間序列;lags為所需延遲圖的個(gè)數(shù);do.lines為F表示不繪制線,為T表示繪制線。
stats包中的stl(x,s.window, robust)函數(shù):時(shí)間序列的季節(jié)分解。x為用于分解的單一時(shí)間序列;s.window為季節(jié)性時(shí)間跨度;robust表示使用魯棒你和的邏輯指示。
stat包中的decompose(x)函數(shù):使用移動(dòng)平均法,將時(shí)間序列分解成季節(jié)性、趨勢(shì)和不規(guī)則的組件。
x為一個(gè)時(shí)間序列。
stats包中的acf(x,lag.max)函數(shù):計(jì)算自相關(guān)和自相關(guān)函數(shù)的估計(jì)。x為時(shí)間序列的對(duì)象;lag.max為acf函數(shù)計(jì)算的最大滯后數(shù)。
stats包中的pacf(x,lag.max)函數(shù):用于偏自相關(guān)函數(shù)。x為時(shí)間序列的對(duì)象;lag.max為acf函數(shù)計(jì)算的最大滯后數(shù)。
stats包中的ts.intersect(…,dframe)函數(shù):綁定2個(gè)或多個(gè)時(shí)間序列。…為要綁定的2個(gè)或多個(gè)時(shí)間序列;dframe為T表示返回個(gè)數(shù)據(jù)框。
stats包中的lag(x,k)函數(shù):延遲一個(gè)時(shí)間序列。x為一個(gè)時(shí)間序列;k為滯后的時(shí)間單位數(shù)。
stats包中的arima.sim(model,n)函數(shù):模擬ARIMA模型。model為一個(gè)組件的列表分別指定ar和ma系數(shù),選擇一個(gè)可以使用的組件順序,一個(gè)空的列表給出了ARIMA(0,0,0)模型,即白噪聲;n為序列的長(zhǎng)度。
stats包中的arima(x,order, xreg, seasonal, method, include.mean)函數(shù):擬合ARIMA模型的單變量時(shí)間序列。x為一個(gè)單變量時(shí)間序列(被預(yù)測(cè)的變量);order為一個(gè)規(guī)范的非季節(jié)性ARIMA模型的一部分,order包括三個(gè)整數(shù)部分,AR
order、差分程度和MA order;xreg為一個(gè)向量或矩陣的外部回歸,必須和x有相同的數(shù)量(預(yù)測(cè)變量);seasonal為一個(gè)規(guī)范的季節(jié)ARIMA模型的一部分,加上期間,應(yīng)該是一個(gè)組件的順序和時(shí)間,但一個(gè)規(guī)范的一個(gè)數(shù)字向量的長(zhǎng)度為3將成為一個(gè)合適的列表與規(guī)范的順序。method為估計(jì)方法,ML為極大似然估計(jì),CSS為條件最小二乘估計(jì),默認(rèn)為最小二乘法;include.mean:是否包含均值項(xiàng)(intercept)。
stats包中的time(x)函數(shù):創(chuàng)建時(shí)間序列的矢量采樣。x為單變量或多變量時(shí)間序列。
stats包中的resid(object)函數(shù):提取模型殘差。object為一個(gè)模型殘差提取的對(duì)象。
stats包中的spec.pgram(x,spans)函數(shù):一個(gè)平滑周期圖的時(shí)間序列的譜密度估計(jì)。x為單變量或多變量的時(shí)間序列;spans為奇整數(shù)給改良丹尼爾平滑用來(lái)平滑周期圖的寬度向量
stats包中的spec.ar()函數(shù):一個(gè)AR時(shí)間序列的譜密度估計(jì)。x為一個(gè)單變量的時(shí)間序列或AR擬合結(jié)果;
stats包中的Box.test(x,lag, type)函數(shù):Box-Pierce和Ljung-Box測(cè)試。x為數(shù)字型向量或單變量時(shí)間序列;lag為基于滯后相關(guān)系數(shù)的統(tǒng)計(jì);type測(cè)試的類型(部分匹配)。
stats包中的tsdiag(object)函數(shù):時(shí)間序列診斷圖。object為一個(gè)擬合的時(shí)間序列模型。
stats包中的filter(x, sides, init)包:時(shí)間序列的線性過(guò)濾波(將線性濾波應(yīng)用于單變量時(shí)間序列,或?qū)⒁幌盗袝r(shí)間序列分開(kāi))。x為一個(gè)單變量或多變量時(shí)間序列;sides為卷積濾波器,sides=1濾波系數(shù)僅為過(guò)去的值,sides=2他們是圍繞滯后0;init為遞歸濾波器,指定時(shí)間序列的初始值在開(kāi)始值之前,在相反的時(shí)間順序,默認(rèn)是一組零。
base包中的as.POSIXct(x)函數(shù):日期時(shí)間轉(zhuǎn)化函數(shù),功能操作對(duì)象的類“POSIXlt”和“POSIXct”代表日歷日期和時(shí)間。x為一個(gè)要轉(zhuǎn)化的對(duì)象。
2、forecast包中的forecast.HoltWinters(object, h)函數(shù):用霍爾特-溫特斯對(duì)象預(yù)測(cè),對(duì)單變量時(shí)間序列模型返回Holt-Winters預(yù)測(cè)等信息。object為HoltWinters對(duì)象;h為預(yù)測(cè)周期。
forecast包中的forecast.Arima(object, h, xreg, level)函數(shù):使用ARIMA或ARFIMA模型預(yù)測(cè)。object為ARIMA類對(duì)象;h為預(yù)測(cè)的時(shí)間周期數(shù),如果xreg參數(shù)被使用,忽略h值,使用xreg的值;xreg為預(yù)測(cè)變量的未來(lái)值;level為預(yù)測(cè)區(qū)間的置信水平。
forecast包中的plot.forecast(x)函數(shù):預(yù)測(cè)圖。x為通過(guò)forecast生成的預(yù)測(cè)對(duì)象。
forecast包中的auto.arima(x, ic, trace)函數(shù):擬合最佳的單變量時(shí)間序列的ARIMA模型,函數(shù)提供盡可能的模型。x為一個(gè)單變量的時(shí)間序列;ic為用于模型選擇的信息準(zhǔn)則,包aicc/aic/bic,(ic=”bic”對(duì)參數(shù)個(gè)數(shù)要求非常嚴(yán)格);trace為T時(shí),ARIMA模型的列表將會(huì)顯示。
3、nlme包中的gls(model,data, correlation, method)函數(shù):用廣義最小二乘法擬合線性模型。model為模型公式對(duì)象;data為數(shù)據(jù);correlation為相關(guān)結(jié)構(gòu)類;method為ML表示對(duì)數(shù)似然最大化,為REML表示限制對(duì)數(shù)似然最大化,默認(rèn)為REML。
nlme包中的corARMA(p,q)函數(shù):ARMA(p, q)相關(guān)結(jié)構(gòu)。p指定AR自動(dòng)回歸;q指定MA移動(dòng)平均,默認(rèn)都為0.

數(shù)據(jù)人才(ID:datarencai)

(一個(gè)幫助數(shù)據(jù)人才找工作的公眾號(hào),

也分享數(shù)據(jù)人才學(xué)習(xí)和生活的有趣事情。)

歡迎關(guān)注和隨喜分享。

創(chuàng)作挑戰(zhàn)賽新人創(chuàng)作獎(jiǎng)勵(lì)來(lái)咯,堅(jiān)持創(chuàng)作打卡瓜分現(xiàn)金大獎(jiǎng)

總結(jié)

以上是生活随笔為你收集整理的predict函数 R_学习|R语言做机器学习的常用函数总结的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò),歡迎將生活随笔推薦給好友。

欧美午夜一区二区福利视频 | 国产精品麻豆果冻传媒在线播放 | 麻豆免费视频 | 国产成人精品国内自产拍免费看 | 日本精品久久 | av片子在线观看 | 人人插人人草 | 日本精品久久 | 成人在线播放网站 | 91看片淫黄大片在线播放 | 五月天色综合 | 欧美久久久久久久久久 | 成人黄色电影在线播放 | 一本一本久久a久久 | 91女人18片女毛片60分钟 | 黄色aa久久 | 欧美一级久久久 | 亚洲黄色影院 | 激情视频二区 | 日本99热 | 美女网站在线看 | 国产美女免费观看 | 丝袜美腿av | 亚洲v欧美v国产v在线观看 | 中文字幕欲求不满 | 欧美最猛性xxx | 久久婷婷综合激情 | 亚洲久草在线视频 | 国产一区免费在线 | 97精品免费视频 | 日韩在线视频网 | 免费手机黄色网址 | 国产精品久久久久影院日本 | 97偷拍在线视频 | 久久午夜电影院 | www.亚洲视频.com | 国产精品观看视频 | 成人免费大片黄在线播放 | 日韩在线视频精品 | 久久看免费视频 | 色五丁香 | 国产一区二区在线视频观看 | 亚洲免费激情 | 久草视频在线免费看 | 韩国av电影网 | 久久深夜福利免费观看 | 久久久久久黄色 | 久久99精品热在线观看 | 国产亚洲欧美一区 | 激情伊人| www黄免费 | 四虎欧美| 西西444www高清大胆 | 日本成人黄色片 | 波多野结衣电影久久 | 在线 国产一区 | 久久在线免费视频 | 99在线观看视频网站 | 日韩免费高清在线观看 | 久久国产经典视频 | 天天插狠狠干 | 欧美aⅴ在线观看 | 88av色| 亚州精品国产 | 日韩精品视频第一页 | 天天躁日日躁狠狠躁av中文 | 狠狠狠色丁香综合久久天下网 | 天天干,天天草 | 国产精品 9999 | 手机看片 | 欧美极品在线播放 | 亚洲人人射 | 91av蜜桃| 国产一区二区免费 | 日韩av福利在线 | 一区在线观看 | 成年人视频在线观看免费 | 99在线免费观看 | 亚洲激情网站免费观看 | 亚洲国产经典视频 | 狠狠干网| 欧美日韩免费一区 | 日日夜夜天天久久 | www.黄色网.com| 在线亚洲观看 | 天天色天天色天天色 | 超碰97av在线| 一级α片 | 97国产小视频 | 成人在线你懂得 | 91精选| 国产久草在线观看 | 久久中文字幕在线视频 | 欧美精品久久久久久久久久 | 免费看v片 | 国产精品综合在线观看 | 国产免费不卡av | 成人a视频| 亚洲精选视频免费看 | 中文字幕在线播放一区二区 | 五月婷婷欧美 | 亚洲黄色av网址 | 天天天操操操 | 91成人看片 | 欧美日韩一区二区久久 | av视屏在线播放 | 国产a精品 | 国产成人精品一区二 | 亚洲一区视频免费观看 | 91视视频在线直接观看在线看网页在线看 | 日本公妇在线观看高清 | 国产一区二区三区高清播放 | av网在线观看 | 久久99国产精品二区护士 | 久久久久中文 | 欧美成a人片在线观看久 | 少妇搡bbbb搡bbb搡忠贞 | 91精品国产一区二区三区 | 最新真实国产在线视频 | 欧美二区三区91 | 日韩天天干 | 久久综合久久综合九色 | 91精品久久久久久久91蜜桃 | 欧美性生活一级片 | 成人av观看 | 久久这里只有精品首页 | 黄色大全在线观看 | 91精品办公室少妇高潮对白 | 国产98色在线 | 日韩 | 91精品国产自产在线观看永久 | 在线观看中文字幕网站 | 色婷婷天天干 | 四虎最新入口 | 色婷婷婷 | 亚洲综合色激情五月 | 一区二区精品在线视频 | 亚洲婷婷网 | 日韩中文字幕免费视频 | 亚洲一区精品人人爽人人躁 | 久久伦理电影 | 丁香婷婷激情国产高清秒播 | 国产美女被啪进深处喷白浆视频 | 国产一区二区三区高清播放 | 天天色草 | 精品日韩在线一区 | 97在线观看免费观看 | 精品国产自在精品国产精野外直播 | 亚洲欧美国内爽妇网 | 五月婷婷在线视频观看 | 黄色性av| 97色婷婷人人爽人人 | 亚洲精品黄色片 | 999久久久精品视频 日韩高清www | 99爱视频| av黄色在线观看 | 日本bbbb摸bbbb| 97视频在线 | 九九爱免费视频 | 精品国产亚洲在线 | 亚洲国产欧美在线人成大黄瓜 | 国产成人精品一区二三区 | 亚洲一二三区精品 | 麻豆免费精品视频 | 国产日韩中文字幕 | 国产成人精品在线播放 | 91精品久久久久久综合乱菊 | 日日爽天天爽 | 久久久国产精品久久久 | 免费在线国产 | 色九九视频 | www.com.日本一级 | 亚洲精品美女在线 | 国产黄a三级三级三级三级三级 | 超薄丝袜一二三区 | 91在线视频观看免费 | 在线观看精品一区 | 99这里都是精品 | 97理论片| 久久久久亚洲精品成人网小说 | 久久精品系列 | www.一区二区三区 | 色婷婷激情 | 麻豆极品 | 在线观看国产日韩欧美 | 亚洲精品观看 | 国产精品一区二区三区在线免费观看 | 国内小视频在线观看 | 婷婷色中文网 | 99精品国产在热久久下载 | 亚洲在线视频免费 | 国产精品久久久久影院日本 | 五月天亚洲婷婷 | 日韩精品专区 | 波多野结衣视频一区二区三区 | 中午字幕在线观看 | 欧洲在线免费视频 | 97精品国自产拍在线观看 | 日韩极品在线 | 美女网站在线免费观看 | 成人一级免费视频 | av片子在线观看 | 日本韩国在线不卡 | 久久久免费观看视频 | 五月开心六月伊人色婷婷 | 国产一区二区不卡在线 | 99欧美精品 | 日韩av在线网站 | 在线一区二区三区 | 成人免费网站在线观看 | 波多野结衣在线中文字幕 | 天堂网一区二区 | 国产91九色蝌蚪 | 日韩理论| 国产视频2区 | 天天综合色 | 亚洲国产精品传媒在线观看 | 国产91粉嫩白浆在线观看 | 一级免费黄色 | 国产在线观看99 | 少妇视频一区 | 亚洲国产一区在线观看 | 久久精品3 | 狠狠躁夜夜躁人人爽视频 | 精品一区二区av | 国产视频在线播放 | 成人黄在线 | 天天综合网国产 | 国产亚洲在线视频 | 久久成人综合 | 日韩av中文字幕在线免费观看 | 中文字幕中文字幕中文字幕 | 99久久日韩精品免费热麻豆美女 | 免费看一级一片 | 丁香六月在线观看 | 999久久精品 | 深爱婷婷 | 91av视频在线播放 | 免费精品 | 韩国精品在线观看 | 天躁狠狠躁 | 日韩免费视频在线观看 | 91福利视频久久久久 | 久久久国产网站 | 欧美性网站| 精品视频国产 | 色激情五月 | 日韩欧美一区二区在线播放 | 亚洲黄色在线观看 | 天天色天天射天天操 | 日本高清dvd | 亚洲在线黄色 | 国产在线毛片 | 在线亚洲播放 | 国产精品男女啪啪 | 久久国产剧场电影 | 精品视频国产一区 | 国产中文字幕一区二区三区 | 福利片视频区 | 国产黄色在线网站 | 国产成人一区二区三区在线观看 | 成人黄大片 | www.黄色| 一级黄色片在线免费看 | 一区二区三区 亚洲 | 99热在线观看 | 亚洲婷婷伊人 | 91精品久久久久久久91蜜桃 | 久久婷婷国产色一区二区三区 | 夜夜躁狠狠燥 | 国产精品系列在线播放 | av一区二区三区在线 | 亚洲欧洲成人精品av97 | 免费国产在线观看 | 亚洲成人精品影院 | 91九色国产在线 | 国产一区二区在线观看免费 | 国产五码一区 | 一级特黄aaa大片在线观看 | 91三级视频 | 在线天堂日本 | 九色视频网 | 亚洲日本在线视频观看 | 国产精品成人av电影 | www.人人草 | 免费男女网站 | 在线观看国产一区二区 | 久久久久久久久久久久久国产精品 | 日韩美在线| 国内精品久久久久影院一蜜桃 | www久久99| 贫乳av女优大全 | 九九视频在线播放 | 精品uu| 在线观看av中文字幕 | 伊人天天干 | 日日碰狠狠躁久久躁综合网 | 韩国一区二区三区在线观看 | 福利视频第一页 | 精品国产1区2区 | 欧美成人黄 | 天天草天天爽 | 久久国内免费视频 | 国产精品自在线 | 久久中文精品视频 | 色99色| 色综合咪咪久久网 | 日韩成人精品在线观看 | 午夜影院日本 | 九九精品毛片 | 婷婷国产一区二区三区 | 欧美在线观看禁18 | 天天色成人 | 国产精品爽爽久久久久久蜜臀 | 亚洲91网站 | 超碰免费在线公开 | 日韩中文字幕视频在线 | 韩国一区二区三区视频 | 亚洲精品视频免费看 | 四虎影视成人精品国库在线观看 | 天天综合网天天 | 国产剧情一区二区在线观看 | 亚洲国产精品女人久久久 | 亚洲综合一区二区精品导航 | 精品国产大片 | 日韩欧美精品一区二区 | 最近字幕在线观看第一季 | 一区二区三区福利 | 亚洲国产福利视频 | 中文字幕一区二区三区久久 | 亚洲综合色视频 | 最近更新的中文字幕 | 天天躁天天狠天天透 | 国产一区二区在线观看免费 | 在线 欧美 日韩 | 日韩高清不卡一区二区三区 | www夜夜操| 久久综合欧美精品亚洲一区 | 91中文在线视频 | 国产日韩欧美在线免费观看 | 亚洲理论在线观看 | 欧美成人高清 | 激情久久综合网 | 久久爱影视i | 在线观看www视频 | 久久免费电影网 | 91chinesexxx | www最近高清中文国语在线观看 | 狠狠干中文字幕 | 日韩高清在线一区二区三区 | 五月婷婷在线视频观看 | 国产精品综合在线 | 天天干天天综合 | 狠狠色丁香婷婷综合久小说久 | 日韩网站在线看片你懂的 | 免费观看成人网 | 国产高清综合 | 国产精品第一页在线观看 | 字幕网av | 欧美另类美少妇69xxxx | 福利视频一二区 | 综合国产视频 | 色婷婷成人网 | 久久国产精品99精国产 | 综合色综合 | 一区二区三区四区免费视频 | 久久久国产99久久国产一 | 精品国产视频在线观看 | 久久天堂网站 | 日韩成年视频 | 成人一级片免费看 | 亚洲精品高清在线 | 丁香高清视频在线看看 | 国产精品国产精品 | 久精品视频在线观看 | 日韩av二区 | 美女网站免费福利视频 | 国产精在线 | 精品亚洲网 | 在线观看国产www | 91天天操 | 成人免费观看网址 | 999毛片| 91av电影| 日韩午夜剧场 | 亚洲成人影音 | 在线播放亚洲激情 | 久久99精品国产麻豆宅宅 | 亚洲一区美女视频在线观看免费 | 国产精品2区 | 久久1区 | 国产第页| 亚洲黄色免费在线看 | 97精品视频在线播放 | 亚洲片在线 | 欧美精品久久久久久久久久 | 国产v在线| 99久久精品电影 | 99精品国产一区二区 | 97视频人人澡人人爽 | 国产成人专区 | 国产伦理久久精品久久久久_ | 香蕉久久久久久久 | 久草影视在线 | 99精品久久久 | 久久午夜国产精品 | 国产99久久精品 | www.国产视频| 免费福利视频网站 | 亚洲国产中文字幕在线 | 亚洲国产精品传媒在线观看 | 亚洲欧美日韩国产一区二区 | 伊人天堂久久 | 久久精品视频免费播放 | 欧美日韩一区二区三区不卡 | 亚洲综合少妇 | 9999精品免费视频 | 免费观看的黄色片 | 五月婷婷色丁香 | 国产在线成人 | 久草免费福利在线观看 | 日韩中文免费视频 | 日韩在线高清免费视频 | 久精品视频免费观看2 | 99中文字幕在线观看 | 97综合视频 | 一级黄色大片 | 91中文字幕网 | 视频在线日韩 | 日韩专区中文字幕 | 天天爱av导航 | 亚洲免费av在线播放 | av在线免费在线观看 | 黄色小说网站在线 | 嫩嫩影院理论片 | 久久在视频 | 亚洲jizzjizz日本少妇 | 久草在线免费看视频 | 久久久999精品视频 国产美女免费观看 | 亚洲精品国产区 | 日日夜夜狠狠 | 日韩精品久久久久久久电影99爱 | 久草在线视频在线 | 中文字幕在线观看免费观看 | 国产手机在线视频 | 欧美日本不卡高清 | 亚洲 欧美 成人 | 黄在线免费看 | 一区二区三区高清不卡 | 521色香蕉网站在线观看 | 国产在线观看污片 | 亚洲国产精品激情在线观看 | 国产精品永久免费在线 | 国产91国语对白在线 | 四虎国产精品免费观看视频优播 | 久久国产精品99久久久久 | 五月婷婷国产 | 日本不卡一区二区三区在线观看 | 超碰人人99 | 国产中的精品av小宝探花 | 97在线视频免费观看 | 黄网站免费看 | 天天拍天天干 | 天天爱综合 | 91精品一区国产高清在线gif | 免费亚洲一区二区 | 99久久日韩精品免费热麻豆美女 | 日韩在线视频免费观看 | 日韩精品综合在线 | 特级免费毛片 | 欧美日韩免费观看一区=区三区 | 国产精品一级视频 | av观看免费在线 | 十八岁以下禁止观看的1000个网站 | 中文字幕中文 | 久草影视在线 | 97精品国产97久久久久久粉红 | 国产 亚洲 欧美 在线 | 亚洲精品1区2区3区 超碰成人网 | 国产精品日韩在线 | 天天做日日做天天爽视频免费 | 成年人视频免费在线播放 | 久久噜噜少妇网站 | 最近中文字幕免费 | 97碰碰精品嫩模在线播放 | 亚洲国产成人在线观看 | 日韩免费成人 | 三级视频片 | 欧美激情综合色综合啪啪五月 | 一区二区三区日韩在线观看 | 狠狠干五月天 | 国产伦精品一区二区三区… | 久久久免费电影 | 免费色网| av大全在线 | 97夜夜澡人人双人人人喊 | 午夜精品导航 | 色综合天天综合在线视频 | 成人蜜桃网 | 国产精品毛片一区二区在线看 | 国产免费观看久久 | 欧美日韩在线网站 | 精品一区久久 | 国产精品免费在线 | 免费在线视频一区二区 | 一区二区三区手机在线观看 | 91精品在线观看入口 | 在线视频区 | 国产一区二区三区免费视频 | 草久久影院 | 欧美极度另类性三渗透 | 日韩精品在线免费播放 | 91丨精品丨蝌蚪丨白丝jk | 中文在线字幕免费观 | 女人久久久久 | 欧美精选一区二区三区 | 日韩国产精品毛片 | 欧美一二三区在线观看 | 亚洲资源片 | 日本高清xxxx | 日本久久久久久久久久久 | 欧美综合色在线图区 | 免费福利小视频 | 国产精品久久久久av免费 | 热久久影视 | 国产精品99久久久久久小说 | 亚洲一一在线 | 国产精品视频内 | 久久久www成人免费精品张筱雨 | 99高清视频有精品视频 | 久久夜色精品国产欧美乱极品 | 五月天天色 | 91资源在线视频 | 91精品久 | 久久免费视频这里只有精品 | 亚州精品视频 | 91黄色在线观看 | 精品美女在线视频 | 国产视频一区在线播放 | 欧美午夜精品久久久久久孕妇 | 国产最顶级的黄色片在线免费观看 | 最近的中文字幕大全免费版 | 久久久久久久久国产 | 久久精品79国产精品 | 久久人91精品久久久久久不卡 | 亚洲精品视频大全 | 91自拍91 | 国产在线观看xxx | 欧美大香线蕉线伊人久久 | 中文字幕亚洲在线观看 | 久久国产免 | av一级在线| 欧美视频日韩视频 | 欧美激情第一区 | 黄网站a | 成人在线免费av | 丁香五婷| 精品在线播放 | 亚洲黄色在线观看 | 精品久久久久久久久亚洲 | 超碰在线成人 | 久久综合色天天久久综合图片 | 福利视频网址 | 日韩在线视频网址 | 亚洲精品美女视频 | 欧美日韩在线观看一区 | 黄色特级一级片 | 国产91精品一区二区麻豆亚洲 | 天天透天天插 | 97激情影院 | 国产精品久久久久9999 | 久久国产精品免费看 | 亚洲精品国产自产拍在线观看 | 国产精品理论在线观看 | 久久免费的视频 | 亚洲精品日韩在线观看 | 久久人人爽人人片av | 丁香5月婷婷久久 | 色五月色开心色婷婷色丁香 | 高清美女视频 | 久久丁香 | 91在线最新 | 亚洲精品白浆高清久久久久久 | 00av视频| 97品白浆高清久久久久久 | 国产精品久久久久9999吃药 | 天天摸天天干天天操天天射 | 婷婷综合亚洲 | 少妇bbw搡bbbb搡bbb | 国产女人40精品一区毛片视频 | 日韩 在线a| 永久免费的av电影 | 99欧美| 国产精品亚洲精品 | 久久久久综合视频 | 麻豆91在线看 | 久久综合久久综合久久综合 | 免费亚洲黄色 | 蜜臀久久99精品久久久无需会员 | 成人h电影在线观看 | 久久精品久久精品久久 | 西西444www大胆无视频 | 成人sm另类专区 | 国产一区二区三区高清播放 | 激情视频免费在线观看 | 麻花传媒mv免费观看 | 国产在线毛片 | 日韩av成人在线观看 | a黄色| 国产亚洲综合性久久久影院 | 超碰在线免费97 | 人人澡人摸人人添学生av | 欧美成人精品三级在线观看播放 | 美女久久久久久久久久久 | 91桃色在线观看视频 | 久久精品亚洲一区二区三区观看模式 | 91中文字幕一区 | 国内成人精品视频 | 人人澡人人澡人人 | 91日韩在线专区 | 狠狠干婷婷 | 夜夜躁日日躁狠狠久久av | 日韩欧美一区二区三区黑寡妇 | 亚洲综合色丁香婷婷六月图片 | 免费一级日韩欧美性大片 | www日日| 国产精品正在播放 | av一级片网站 | 手机看片1042| 精品一区二区三区香蕉蜜桃 | 国产资源精品在线观看 | 中文字幕第 | 日韩二区在线播放 | 在线观看aaa | 视频在线观看一区 | 亚洲精品系列 | 激情久久综合 | 中文字幕色综合网 | 五月天久久狠狠 | 日韩欧美网址 | 国产精品18毛片一区二区 | 97综合在线| 国产精品原创视频 | 亚洲一区二区三区四区在线视频 | 97电院网手机版 | 91最新在线视频 | 在线亚州 | 五月婷丁香 | 久久手机免费观看 | 久一网站 | 天天干天天搞天天射 | 日韩av一区在线观看 | 天天综合久久综合 | 久久午夜电影网 | 国产第一页在线观看 | av成人在线网站 | 久久综合九色综合久久久精品综合 | www免费看| 久久试看| 精品国产激情 | 久久久久成人精品亚洲国产 | 欧美 亚洲 另类 激情 另类 | 国产人成精品一区二区三 | 在线国产视频 | 黄色片视频免费 | 亚洲欧美视频一区二区三区 | 国产五月婷婷 | www日| 国产手机av | 伊人激情综合 | 99久久精品国产观看 | 人人澡人人添人人爽一区二区 | 黄色大片免费播放 | 久久免费在线视频 | 在线亚洲天堂网 | 中文字幕在线观看的网站 | 99精品国产一区二区三区不卡 | 久草电影在线 | 91中文在线视频 | 最新午夜 | 在线黄色国产电影 | 久久久久久国产精品 | 国产伦理一区二区三区 | 久久影视一区二区 | 狠狠色狠狠综合久久 | 久久久99久久 | 在线影院 国内精品 | 国产精品欧美日韩在线观看 | 国产黑丝袜在线 | 色噜噜噜噜 | 天天激情综合网 | 国产不卡高清 | 欧美va天堂在线电影 | 日韩免费一级a毛片在线播放一级 | 久久中文字幕在线视频 | 中文字幕在线日 | 99久久精品免费看国产一区二区三区 | 日韩高清 一区 | 成人免费在线视频观看 | 色射爱| 亚洲 综合 精品 | 色婷婷狠狠五月综合天色拍 | 97香蕉超级碰碰久久免费软件 | 97视频免费观看2区 亚洲视屏 | 精品久久久久久久久亚洲 | 欧美乱码精品一区 | 日韩欧美国产精品 | 久久www免费人成看片高清 | 国内精品久久久精品电影院 | 精品国产视频一区 | 国产91在线免费视频 | av不卡在线看 | 国产麻豆精品久久一二三 | 丁香导航| 午夜精品久久久久久久久久久久 | 国产黄在线免费观看 | 日韩成人免费在线电影 | 四虎影视国产精品免费久久 | 狠狠色狠狠色 | 中文字幕色婷婷在线视频 | 欧美国产一区在线 | a亚洲视频 | 青青草国产精品视频 | 日本精品一区二区三区在线播放视频 | 免费看一级黄色大全 | 亚洲视屏一区 | 激情婷婷在线观看 | 免费在线一区二区 | 欧美精品xx | 国产高清黄色 | 国产视频一 | 肉色欧美久久久久久久免费看 | 91毛片在线 | 五月婷婷狠狠 | 亚洲片在线观看 | 亚洲激情在线观看 | 亚洲国产精品成人女人久久 | 日本精品二区 | 免费视频国产 | 国产高清在线精品 | 久久精品二区 | 丁香六月婷婷开心婷婷网 | 91免费网站在线观看 | 久草视频在线播放 | 超碰夜夜 | 亚洲无吗av | 久久久免费电影 | 国产又粗又猛又色又黄网站 | 人人讲 | 亚洲精品成人av在线 | 欧美片一区二区三区 | www黄色大片 | 国产不卡免费 | 九九热在线视频免费观看 | 色综合久久久久久久久五月 | 欧美视频18 | 国产手机在线播放 | 久久久久久久久黄色 | 成人黄视频 | 最新的av网站 | 国产一区在线免费观看 | 日韩精品一区二区三区丰满 | 成人影音在线 | 在线激情影院一区 | 日韩中文字幕在线 | 美女在线国产 | 狠狠躁夜夜躁人人爽视频 | 91在线精品视频 | 久久天堂网站 | 欧美日韩精品在线观看视频 | 国产精品扒开做爽爽的视频 | 亚洲精品视频免费 | 国产视频一区二区在线 | 人人爽人人av | 日韩和的一区二在线 | 免费看的av片 | 免费观看日韩 | 手机看片 | 欧美亚洲另类在线视频 | 狠狠的干狠狠的操 | 黄av免费在线观看 | 亚洲视频 一区 | 黄色1级毛片| 久久久99精品免费观看乱色 | 国产成人久久精品亚洲 | 日韩网站一区 | a极黄色片 | 国产精品1区2区3区 久久免费视频7 | 亚洲全部视频 | 一区在线免费观看 | 色悠悠久久综合 | 最近中文字幕免费视频 | 精品uu | 在线视频专区 | 国产精品不卡在线播放 | 中文字幕视频网 | av在线免费在线观看 | 国产91精品一区二区绿帽 | 久久亚洲欧美 | 国产亚洲精品xxoo | 四虎影视精品成人 | 精品久久久99| 中文字幕视频在线播放 | 国产精品一区二区三区在线播放 | 国产精品久久一区二区三区不卡 | 国产精品国产三级国产不产一地 | 日日夜夜骑| 国产美女视频免费观看的网站 | 国产一级片一区二区三区 | 国产不卡精品 | 日精品| 91香蕉视频黄 | 伊人五月在线 | 日三级在线 | 亚洲天天在线 | 国产成人精品久久久 | 国产精品自产拍在线观看桃花 | 欧美日本日韩aⅴ在线视频 插插插色综合 | 狠狠色丁香婷婷综合基地 | 超碰人人在线 | 狠狠激情中文字幕 | 国产青青青 | 精品一区 在线 | 九色精品免费永久在线 | 黄色一级大片在线观看 | 成人免费视频免费观看 | 国产伦精品一区二区三区高清 | 涩涩网站免费 | 99 色 | 国产99区 | 日韩专区在线观看 | 国产成人一区二区三区影院在线 | 99麻豆视频 | 国产成人精品一区二区三区在线 | 中文理论片 | 九九热99视频 | 欧美色就是色 | 西西444www大胆无视频 | 成人在线视频免费 | 91精品国产自产在线观看永久 | 欧美精品久久久久久久久老牛影院 | 日韩在线视频免费播放 | 丝袜美女在线 | 精品99在线 | 伊人夜夜 | 欧美激情亚洲综合 | 99精品久久99久久久久 | 国产在线高清视频 | 国产成人精品av久久 | 6699私人影院 | 18久久久久 | 久久精品2 | 亚洲成人软件 | www蜜桃视频 | avwww在线| 狠狠干激情 | 日韩a级黄色| 伊人久久婷婷 | 日韩一区二区三区免费电影 | 免费观看的av网站 | 最近日本mv字幕免费观看 | 国产一区久久久 | 免费一级特黄录像 | 激情婷婷av| 国产黄色免费电影 | 91人人爽人人爽人人精88v | 日韩欧美xxx | 日韩欧美高清在线 | 欧美韩日在线 | 国产精品毛片一区二区 | 亚洲伦理一区二区 | 99色精品视频 | 亚洲精品影院在线观看 | 91福利在线导航 | 又长又大又黑又粗欧美 | 日日夜夜干| 亚洲激情视频在线 | 91精品在线观看入口 | 欧美激情视频一二三区 | 高清免费av在线 | 久久久国产一区二区三区四区小说 | 国产女v资源在线观看 | 色天天 | 国内视频在线 | 国产成人精品午夜在线播放 | www.国产在线观看 | 久久99国产精品免费 | 国产精品 9999 | 一级黄色毛片 | 国产乱对白刺激视频在线观看女王 | 日韩欧美精品在线视频 | 天堂网一区二区三区 | 国产精品 日韩 | 日韩视频1 | 麻豆成人精品视频 | 欧美激情第十页 | 国产黄视频在线观看 | 97超碰免费在线 | 国产+日韩欧美 | 中文字幕三区 | 国产精品久久久久久久久毛片 | 麻豆久久久久 | 国产尤物一区二区三区 | 亚洲精品免费在线观看视频 | 国产性天天综合网 | 九九久久婷婷 | 欧美成人精品欧美一级乱 | 久久久精品高清 | 午夜美女福利 | 中文字幕 国产视频 | 国产精品一区二区久久精品爱微奶 | 欧美色综合| 欧美在线视频二区 | 亚洲成av人片在线观看无 | 日本护士三级少妇三级999 | 一区二区三区免费在线播放 | 日韩专区在线播放 | 成年人在线观看视频免费 | 久久久精品网站 | 日韩极品在线 | 综合精品久久久 | 欧美性大战 | a级免费观看 | 成人一级免费电影 | 91c网站色版视频 | 国产精品久久影院 | 黄色网址中文字幕 | 精品免费久久久久 | 国产精品久久久久一区二区 | 九九视频免费观看视频精品 | 午夜av色| 成人精品久久久 | 色婷婷激情网 | 国产一区欧美在线 | 久久亚洲专区 | 国产亚洲视频在线免费观看 | 激情久久久久久久久久久久久久久久 | 99精品国产成人一区二区 | 久久视讯| 日韩精品一区二区三区外面 | 久久久久久国产精品亚洲78 | 黄色的网站在线 | 伊人五月| 伊人五月 | 精品一二| 亚洲综合激情五月 | 成人动图 | 国产精品av免费在线观看 | 国产日产在线观看 | 麻豆视屏 | 久久精品99| 中文字幕欧美日韩va免费视频 | 国产午夜精品一区二区三区 | 夜夜躁狠狠燥 | 日韩一片| 91亚洲在线| 黄色小网站免费看 | 日本久久久久久科技有限公司 | 亚洲国产精品成人精品 | 欧美精品乱码久久久久久按摩 | 99精品国产一区二区三区不卡 | 久久免费精品一区二区三区 | 99免费在线播放99久久免费 | 国内精品久久久久影院男同志 | 欧美日韩国产二区三区 | www好男人| av一区在线| 一区二区三区在线观看中文字幕 | 手机在线小视频 | 国产视频在线观看一区二区 | 国产美女搞久久 | 中文字幕你懂的 | 天海冀一区二区三区 | 亚洲天堂色婷婷 | 在线观看中文字幕网站 | 国产精品毛片一区二区在线 | 亚洲经典精品 | 国产毛片久久久 | www.夜夜骑.com | 久久久av免费 | 国产精品嫩草影院9 | 在线观看中文av | 天天曰天天 | 丁香电影小说免费视频观看 | 在线不卡视频 | 免费高清在线观看成人 | 激情婷婷久久 | 国产女人免费看a级丨片 | 久久理论电影网 | 亚洲精品国产精品久久99 | 精品久久久免费视频 | 欧美三级免费 | 亚洲国产伊人 | 丁香六月在线观看 | 国产精品久久久精品 | 黄色av影视 | 亚洲精品999| 日韩中文字幕在线观看 | 日韩激情视频在线 |