数据挖掘和机器学习
數(shù)據(jù)挖掘一般是指從海量數(shù)據(jù)中提取出其中無法直接獲取的信息。通過各種數(shù)據(jù)源,將信息整合,發(fā)掘其內(nèi)在關(guān)系。數(shù)據(jù)挖掘一般來說有6類,分別是回歸、分類、預(yù)測、關(guān)聯(lián)分析、預(yù)測分析和異常檢測。
回歸:確定兩種及以上變量之間相互依賴關(guān)系的一種方法。簡單來說就是找到自變量和因變量之間的函數(shù)關(guān)系。根據(jù)變量的不同,可分為一元回歸和多元回歸;根據(jù)自變量和因變量之間的關(guān)系類型,可分為線性回歸和非線性回歸。
分類:根據(jù)事物表現(xiàn)的特征,對事物進行分類,常見有決策樹、神經(jīng)網(wǎng)絡(luò)、貝葉斯。
預(yù)測:以現(xiàn)有的數(shù)據(jù)為基礎(chǔ),推出其內(nèi)在規(guī)律,對未發(fā)生的情況進行預(yù)測,發(fā)現(xiàn)其內(nèi)在規(guī)律,為人們進行決策提供了科學(xué)依據(jù)。
關(guān)聯(lián)分析:用來發(fā)現(xiàn)描述數(shù)據(jù)中強關(guān)聯(lián)特征的模式,簡單來說就是挖掘出數(shù)據(jù)之間的關(guān)聯(lián)強度。在超市購買商品,假設(shè)存在20種常被購買的商品,可以通過關(guān)聯(lián)分析,計算出商品之間的關(guān)聯(lián)關(guān)系,滿足一定條件的即為頻繁項集。也就是說購買的頻率會足夠大。
聚類分析:討論大量無標(biāo)簽的樣本,按照一定特征下對樣本進行分類。主要是追求求其高相似度。常見有K-means聚類。
異常檢測:通常統(tǒng)計數(shù)據(jù)中會出現(xiàn)離群點,比如一家公司所有人的工資,有一個重數(shù)為員工工資,但是會有董事長、經(jīng)歷的工資會較為異常,所以這類數(shù)據(jù)也十分有意義。
機器學(xué)習(xí)是計算機科學(xué)的一個領(lǐng)域,使用統(tǒng)計技術(shù)給計算機系統(tǒng)提供“學(xué)習(xí)的能力”,從一堆數(shù)據(jù)種找出其中規(guī)律(學(xué)習(xí)),然后運用到新數(shù)據(jù)中(預(yù)測),這樣的規(guī)律叫模型。主要可以分為監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí)。監(jiān)督學(xué)習(xí)是指人為定義標(biāo)準(zhǔn)并執(zhí)行,主要有回歸、分類兩類。無監(jiān)督學(xué)習(xí)是指計算機自己尋找其中規(guī)律,主要有聚類分析。
?機器學(xué)習(xí)框架,建立機器學(xué)習(xí)框架時,會用到很多python程序模塊,常見的有Numpy、scikit-learn、matplotlib等。
機器學(xué)習(xí)框架一般存下以下幾個步驟:
? ? ? ? 1.數(shù)據(jù)加載
? ? ? ? 2.模型選取
? ? ? ? 3.模型訓(xùn)練
? ? ? ? 4.模型預(yù)測
? ? ? ? 5.模型評測
? ? ? ? 6.模型保存
一般來說會將數(shù)據(jù)集分為訓(xùn)練集和測試集,一般為3:1,通過訓(xùn)練集得出最優(yōu)模型,再再測試集進行模型預(yù)測。
總結(jié)
- 上一篇: 【zbrush】毛发系统 -打散、分区、
- 下一篇: iOS 录音及播放 音波图波形