LDA 线性判别分析模型
生活随笔
收集整理的這篇文章主要介紹了
LDA 线性判别分析模型
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
?
線性判別分析(Linear Discriminant Analysis,LDA)是一種可作為特征抽取的技術,可以提高數據分析過程中的計算效率,同時對于不適用于正則化的模型,它可以降低模型災難帶來的過擬合。
1、LDA 的概念與 PCA 區別與聯系
- 1.PCA 試圖在數據集中找到方差最大的正交主成分量的軸,而 LDA 的目標是發現可以最優化分類的特征子空間。LDA 和 PCA 都是可以降低數據集維度的線性轉化技巧。
- 2.PCA 是一種無監督算法(不需要類標簽的參與),而 LDA 是監督算法。
- 3.在圖像識別某些情況下,如每個類別中只有少量樣本使用 PCA 最為預處理工具的分類結果更佳。
下圖解釋了二分類 LDA 的概念,x 和點分別表示一個類別:
在 x 軸方向(LD1)通過線性判斷,可以很好地將呈現正態分布的兩個類分開。雖然沿 y 軸(LD2)方向的線性判別保持了數據集的較大的方差(與 PCA 相似),但是沿著此方向無法提供關于類別區分的任何信息,y 軸的這個情況也不是一個好的線性判定。
2、LDA 算法步驟
3、計算散步矩陣
4、在新特征子空間上選取線性判別算法
5、將樣本映射到新的特征空間
總結
以上是生活随笔為你收集整理的LDA 线性判别分析模型的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: KernelPCA进行非线性数据的映射和
- 下一篇: Spark Streaming整合flu