當前位置：首頁 > 编程资源 > 编程问答 >内容正文

编程问答

ID3和C4.5分类决策树算法 - 数据挖掘算法（7）

發布時間：2023/12/2 编程问答 41 豆豆

生活随笔收集整理的這篇文章主要介紹了 ID3和C4.5分类决策树算法 - 数据挖掘算法（7）小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

（2017-05-18 銀河統計）

決策樹(Decision Tree）是在已知各種情況發生概率的基礎上，通過構成決策樹來判斷其可行性的決策分析方法，是直觀運用概率分析的一種圖解法。由于這種決策分支畫成圖形很像一棵樹的枝干，故稱決策樹。在機器學習中，決策樹是一個預測模型，他代表的是對象屬性與對象值之間的一種映射關系。

決策樹是對數據進行分類，以此達到預測的目的。決策樹方法先根據訓練集數據形成決策樹，如果該樹不能對所有對象給出正確的分類，那么選擇一些例外加入到訓練集數據中，重復該過程一直到形成正確的決策集。決策樹代表著決策集的樹形結構。

決策樹由決策結點、分支和葉子組成。決策樹中最上面的結點為根結點，每個分支是一個新的決策結點，或者是樹的葉子。每個決策結點代表一個問題或決策，通常對應于待分類對象的屬性。每一個葉子結點代表一種可能的分類結果。沿決策樹從上到下遍歷的過程中，在每個結點都會遇到一個測試，對每個結點上問題的不同的測試輸出導致不同的分支，最后會到達一個葉子結點，這個過程就是利用決策樹進行分類的過程，利用若干個變量來判斷所屬的類別。

一、決策樹構造及其運用

1、樹的定義

樹是由節點和邊兩種元素組成的結構。理解樹，就需要理解幾個關鍵詞：根節點、父節點、子節點和葉子節點。

父節點和子節點是相對的，說白了子節點由父節點根據某一規則分裂而來，然后子節點作為新的父親節點繼續分裂，直至不能分裂為止。而根節點是沒有父節點的節點，即初始分裂節點，葉子節點是沒有子節點的節點，如下圖所示：

決策樹利用如上圖所示的樹結構進行決策，每一個非葉子節點是一個判斷條件，每一個葉子節點是結論。從跟節點開始，經過多次判斷得出結論。

2、如何利用樹進行決策

從一個用戶貸款分類例子說起：

銀行希望能夠通過一個人的信息（包括職業、年齡、收入、學歷）去判斷他是否有貸款的意向，從而更有針對性地完成工作。下表是銀行現在能夠掌握的信息，我們的目標是通過對下面的數據進行分析建立一個預測用戶貸款一下的模型。

職業年齡收入學歷是否貸款

自由職業	28	5000	高中	是
工人	36	5500	高中	否
工人	42	2800	初中	是
白領	45	3300	小學	是
白領	25	10000	本科	是
白領	32	8000	碩士	否
白領	28	13000	博士	是
自由職業	21	4000	本科	否
自由職業	22	3200	小學	否
工人	33	3000	高中	否
工人	48	4200	小學	否

上邊中有4個客戶的屬性，如何綜合利用這些屬性去判斷用戶的貸款意向？

決策樹的做法是每次選擇一個屬性進行判斷，如果不能得出結論，繼續選擇其他屬性進行判斷，直到能夠“肯定地”判斷出用戶的類型或者是上述屬性都已經使用完畢。比如說我們要判斷一個客戶的貸款意向，我們可以先根據客戶的職業進行判斷，如果不能得出結論，再根據年齡作判斷，這樣以此類推，直到可以得出結論為止。

決策樹用樹結構實現上述的判斷流程，如下圖所示：

上圖所示的是通過輸入用戶的信息，輸出用戶的貸款意向。如果要判斷某一客戶是否有貸款的意向，直接根據用戶的職業、收入、年齡以及學歷就可以分析得出用戶的類型。如某客戶的信息為：{職業、年齡，收入，學歷}={工人、39， 1800，小學}，將信息輸入上述決策樹，可以得到下列的分析步驟和結論。

第一步：根據該客戶的職業進行判斷，選擇“工人”分支；

第二步：根據客戶的年齡進行選擇，選擇年齡”<=40”這一分支；

第三步：根據客戶的學歷進行選擇，選擇”小學”這一分支，得出該客戶無貸款意向的結論。

3、決策樹的構建

從上述步驟可以看出，決策生成過程中有幾個個重要的問題：

數據如何分割如何選擇分裂的屬性什么時候停止分裂

假如我們已經選擇了一個分裂的屬性，那怎樣對數據進行分裂呢？

I、數據分割

分裂屬性的數據類型分為離散型和連續性兩種情況，對于離散型的數據，按照屬性值進行分裂，每個屬性值對應一個分裂節點；對于連續性屬性，一般性的做法是對數據按照該屬性進行排序，再將數據分成若干區間，如[0,10]、[10,20]、[20,30]、…，一個區間對應一個節點，若數據的屬性值落入某一區間則該數據就屬于其對應的節點。

設有數據表如下：

職業年齡是否貸款

白領	30	否
工人	40	否
工人	20	否
學生	15	否
學生	18	是
白領	42	是

屬性“職業”是離散型變量，有三個取值，分別為白領、工人和學生，根據三個取值對原始的數據進行分割，如下表所示:

取值貸款人數不貸款人數

白領	1	1
工人	0	2
學生	1	1

上表可以表示成如下的決策樹結構：

屬性“年齡”是連續性變量，這里將數據分成三個區間，分別是[0，20]、(20,40]、(40,*]，則每一個區間的分裂結果如下：

年齡分組貸款人數不貸款人數

[0 ,20]	1	2
(20,40]	0	2
(40,* ]	1	0

上表可以表示成如下的決策樹結構：

II、分裂屬性的選擇

前面介紹了分裂屬性是如何對數據進行分割的，那么怎樣選擇分裂的屬性呢？

決策樹采用貪婪思想進行分裂，即選擇可以得到最優分裂結果的屬性進行分裂。那么怎樣才算是最優的分裂結果？最理想的情況當然是能找到一個屬性剛好能夠將不同類別分開，但是大多數情況下分裂很難一步到位，我們希望每一次分裂之后孩子節點的數據盡量”純”，以下圖為例：

從圖例1和圖例2可以明顯看出，屬性2分裂后的子節點比屬性1分裂后的子節點更純：屬性1分裂后每個節點的兩類的數量還是相同，跟根節點的分類結果相比完全沒有提高；按照屬性2分裂后每個節點各類的數量相差比較大，可以很大概率認為第一個子節點的輸出結果為類1，第2個子節點的輸出結果為2。

選擇分裂屬性是要找出能夠使所有子節點數據最純的屬性，決策樹使用信息增益、信息增益率或者基尼值作為選擇屬性的依據（相關概念及算法在ID3和C4.5中解釋）。

III、停止分裂的條件

決策樹不可能無限制地生長，總有停止分裂的時候，最極端的情況是當節點分裂到只剩下一個數據點時自動結束分裂，但這種情況下樹過于復雜，而且預測的精度不高。一般情況下為了降低決策樹復雜度和提高預測的經度，會適當提前終止節點的分裂

以下是決策樹節點停止分裂的一般性條件：

a. 最小節點數：當節點的數據量小于一個指定的數量時，不繼續分裂。兩個原因：一是數據量較少時，再做分裂容易強化噪聲數據的作用；二是降低樹生長的復雜性。提前結束分裂一定程度上有利于降低過擬合的影響b. 熵或者基尼值小于閥值：熵和基尼值的大小表示數據的復雜程度，當熵或者基尼值過小時，表示數據的純度比較大，如果熵或者基尼值小于一定程度數，節點停止分裂c. 決策樹的深度達到指定的條件：節點的深度可以理解為節點與決策樹跟節點的距離，如根節點的子節點的深度為1，因為這些節點與跟節點的距離為1，子節點的深度要比父節點的深度大1。決策樹的深度是所有葉子節點的最大深度，當深度到達指定的上限大小時，停止分裂d. 所有特征已經使用完畢，不能繼續進行分裂：被動式停止分裂的條件，當已經沒有可分的屬性時，直接將當前節點設置為葉子節點

IV、決策樹的構建方法

根據決策樹的輸出結果，決策樹可以分為分類樹和回歸樹，分類樹輸出的結果為具體的類別，而回歸樹輸出的結果為一個確定的數值。

決策樹的構建算法主要有ID3、C4.5、CART三種，其中ID3和C4.5是分類樹，CART是分類回歸樹。本文介紹ID3和C4.5技術，其中ID3是決策樹最基本的構建算法，而C4.5和CART是在ID3的基礎上進行優化的算法。

二、ID3算法

ID3算法最早是由羅斯昆（J.Ross Quinlan）于1975年在悉尼大學提出的一種分類預測算法，算法的核心是“信息熵（Information entropy）”。ID3算法通過計算每個屬性的信息增益，認為信息增益高的是好屬性，每次劃分選取信息增益最高的屬性為劃分標準，重復這個過程，直至生成一個能完美分類訓練樣例的決策樹。

1、信息熵

信息論之父 C. E. Shannon 在1948年發表的論文“通信的數學理論（A Mathematical Theory of Communication）”中，Shannon指出，任何信息都存在冗余，冗余大小與信息中每個符號（數字、字母或單詞）的出現概率或者說不確定性有關。Shannon借鑒了熱力學的概念，把信息中排除了冗余后的平均信息量稱為“信息熵”，并給出了計算信息熵的數學表達式。

事件\(a_{_i}\)的信息量\(I(a_{_i})\)可如下度量：

\[I(a_{_i})=p(a_{_i})\times\frac{1}{log_{_2}p(a_{_i})}\]

其中\(p(a_{_i})\)表示事件\(a_{_i}\)發生的概率。

假設有n個互不相容的事件\(a_{_1},a_{_2},a_{_3},\dots.,a_{_n}\)，它們中有且僅有一個發生，則其平均的信息量可如下度量：

\[I(a_{_1},a_{_2},a_{_3},\dots,a_{_n})=\sum\limits_{i=1}^nI(a_{_i})=\sum\limits_{i=1}^np(a_{_i})\times\frac{1}{log_{_2}p(a_{_i})}=-\sum\limits_{i=1}^np(a_{_i})\times{log_{_2}p(a_{_i})}\]

信息熵是消除不確定性所需信息量的度量，也即未知事件可能含有的信息量。

例如，投擲一枚分幣，正面和反面朝上的概率相對，為\(\frac{1}{2}\)，這一隨機試驗所有可能結果的發生概率所包含的信息量的大小，即信息熵值為，

\[I(a_{_1},a_{_2})=-\sum\limits_{i=1}^2p(a_{_i})\times{log_{_2}p(a_{_i})}=-(\frac{1}{2}\times log_{_2}\frac{1}{2}+\frac{1}{2}\times log_{_2}\frac{1}{2})=log_{_2}2=1\]

假設這枚分幣正反面不均勻，一面朝上的概率為0.3，另一面為0.7，信息熵值為，

\[I(a_{_1},a_{_2})=-\sum\limits_{i=1}^2p(a_{_i})\times{log_{_2}p(a_{_i})}=-(0.3\times log_{_2}0.3+0.7\times log_{_2}0.7)=0.8813\]

對于極端情況，一面朝上的概率為0，另一面為1，信息熵值為，

\[I(a_{_1},a_{_2})=-\sum\limits_{i=1}^2p(a_{_i})\times{log_{_2}p(a_{_i})}=-(0\times log_{_2}0+1\times log_{_2}1)=0\]

式中，對數底數可以為任何數，不同的取值對應了熵的不同單位。通常對數的底數取2，并規定當\(p(a_{_i})=0\)時，

\[I(a_{_i})=p(a_{_i})\times\frac{1}{log_{_2}p(a_{_i})}=0\]

當正反面朝上概率相等時，結果最難猜，信息熵最大；正面朝上概率為0.7、反面朝上概率為0.3時，應該猜正面朝上，會有70%勝算，但信息熵減小；正面朝上概率為1、反面朝上概率為0時，正面一定朝上，這時信息熵為0。

2、ID3算法中信息量大小的度量

在運用ID3算法進行決策樹分類過程中，假設D是訓練樣本集合，則D的熵（entropy）表示為：

\[info(D)=-\sum\limits_{i=1}^mp_{_i}\times{log_{_2}(p_{_i})}\]

其中\(p_{_i}\)表示第i個類別在整個訓練元組中出現的概率，可以用屬于此類別元素的數量除以訓練元組元素總數量作為估計。熵的實際意義表示是D中元組的類標號所需要的平均信息量。

現對訓練樣本集合D按屬性A進行劃分，則A對D劃分的期望信息為：

\[info_{_A}(D)=-\sum\limits_{j=1}^m\frac{|D_{_j}|}{|D|}\times{info(D_{_j})}\]

式中|D|為練樣本量，\(D_{_j}\)為屬性A的不同水平樣本數，\(info(D_{_j})\)為屬性A的不同水平的熵。

而信息增益為，

\[gain(A)=info(D)-info_{_A}(D)\]

3、ID3算法案例

學習數據挖掘技術的最好方法是找到詳細案例和看懂計算過程。有時算法雖然不難，但公式表達很難理解。

案例：SNS社區中不真實賬號檢測，使用ID3算法構造決策樹。

日志密度/L好友密度/F真實頭像/H真實賬戶/R

S	S	NO	NO
S	L	YES	YES
L	M	YES	YES
M	M	YES	YES
L	M	YES	YES
M	L	NO	YES
M	S	NO	NO
L	M	NO	YES
M	S	NO	YES
S	S	YES	NO

表中S、M和L分別表示小、中和大。

設L、F、H和R表示日志密度、好友密度、是否使用真實頭像和賬號是否真實，試用ID3算法構造決策樹。

解：設D為10個樣本集，其中決策屬性（真實賬戶/R）有7個YES、3個NO。決策屬性信息熵為：

\[info(D)=-\sum\limits_{i=1}^mp_{_i}\times{log_{_2}(p_{_i})}=-(\frac{7}{10}log_{_2}\frac{7}{10}+\frac{3}{10}log_{_2}\frac{3}{10})=0.8813\]

日志密度屬性期望信息熵為：

\[\small{info_{_L}(D)=-\sum\limits_{j=1}^m\frac{|D_{_j}|}{|D|}\times{info(D_{_j})}=-[\frac{3}{10}\times{(0\times log_{_2}0+1\times log_{_2}1)}+\frac{4}{10}\times{(\frac{1}{4}\times log_{_2}\frac{1}{4}+\frac{3}{4}\times log_{_2}\frac{3}{4})}+\frac{3}{10}\times{(\frac{2}{3}\times log_{_2}\frac{2}{3}+\frac{1}{3}\times log_{_2}\frac{1}{3})}]=0.6}\]

好友密度屬性期望信息熵為：

\[\small{info_{_F}(D)=-\sum\limits_{j=1}^m\frac{|D_{_j}|}{|D|}\times{info(D_{_j})}=-[\frac{2}{10}\times{(0\times log_{_2}0+1\times log_{_2}1)}+\frac{4}{10}\times{(\frac{1}{4}\times log_{_2}\frac{1}{4}+\frac{3}{4}\times log_{_2}\frac{3}{4})}+\frac{4}{10}\times{(0\times log_{_2}0+1\times log_{_2}1)}]=0.3245}\]

真實頭像屬性期望信息熵為：

\[\small{info_{_H}(D)=-\sum\limits_{j=1}^m\frac{|D_{_j}|}{|D|}\times{info(D_{_j})}=-[\frac{5}{10}\times{(\frac{2}{5}\times log_{_2}\frac{2}{5}+\frac{3}{5}\times log_{_2}\frac{3}{5})}+\frac{5}{10}\times{(\frac{1}{5}\times log_{_2}\frac{1}{5}+\frac{4}{5}\times log_{_2}\frac{4}{5})}]=0.8464}\]

日志密度信息增益: \(gain(L)=info(D) - info_{_L}(D) = 0.8813 – 0.6 = 0.2813\)
好友密度信息增益: \(gain(F)=info(D) - info_{_F}(D) = 0.8813 – 0.3245 = 0.5568\)
真實頭像信息增益: \(gain(H)=info(D) - info_{_H}(D) = 0.8813 – 0.8464 = 0.0349\)

因為好友密度（F）具有最大的信息增益（好友密度信息熵最小，最易分割），所以第一次分裂選擇好友密度F為分裂屬性，分裂后的結果如下：

圖中按好友密度（F）分割樹，水平M和L為單一水平決策屬性分支（樹葉），沒有必要繼續分割。水平S包含決策屬性的不同水平，應該繼續分割。待分割決策信息表為，

日志密度/L真實頭像/H真實賬戶/R

S	NO	NO
M	NO	NO
M	NO	YES
S	YES	NO

此時，設D為4個樣本集，其中決策屬性（真實賬戶/R）有1個YES、3個NO。決策屬性信息熵為：

\[info(D)=-\sum\limits_{i=1}^mp_{_i}\times{log_{_2}(p_{_i})}=-(\frac{1}{4}log_{_2}\frac{1}{4}+\frac{3}{4}log_{_2}\frac{3}{4})=0.8113\]

日志密度屬性期望信息熵為：

\[\small{info_{_L}(D)=-\sum\limits_{j=1}^m\frac{|D_{_j}|}{|D|}\times{info(D_{_j})}=-[\frac{2}{4}\times{(\frac{1}{2}\times log_{_2}\frac{1}{2}+\frac{1}{2}\times log_{_2}\frac{1}{2})}+\frac{2}{4}\times{(0\times log_{_2}0+1\times log_{_2}1)}]=0.5}\]

真實頭像屬性期望信息熵為：

\[\small{info_{_H}(D)=-\sum\limits_{j=1}^m\frac{|D_{_j}|}{|D|}\times{info(D_{_j})}=-[\frac{3}{4}\times{(\frac{2}{3}\times log_{_2}\frac{2}{3}+\frac{1}{3}\times log_{_2}\frac{1}{3})}+\frac{1}{4}\times{(0\times log_{_2}0+1\times log_{_2}1)}]=0.6887}\]

日志密度信息增益: \(gain(L)=info(D) - info_{_L}(D) = 0.8113 – 0.5 = 0.2813\)
真實頭像信息增益: \(gain(H)=info(D) - info_{_H}(D) = 0.8113 – 0.8464 = 0.6887\)

因為日志密度（L）具有最大的信息增益，所以第二次分裂選擇日志密度（L）為分裂屬性，分裂后的結果如下圖表示：

圖中，日志密度為M時，無法做出判斷、也無法繼續進行分裂。至此，決策樹構建完畢。

設某人在SNS社區中的好友密度為L或M，無論其它屬性水平取值如何，均可判定為是真實賬戶；如果某人在SNS社區中的好友密度為S、日志密度也為S，可判定為是虛假賬戶；如果某人在SNS社區中的好友密度為S、日志密度為M，應根據真實頭像信息做出判斷，由于樣本過少，無法繼續進行。

三、C4.5算法

ID3算法是決策樹的一個經典的構造算法，但ID3算法也存在一些問題，比較突出的缺陷是信息增益的計算依賴于特征水平較多的特征，而屬性取值最多的屬性并不一定最優。例如，投擲一枚分幣和一個色子這兩個隨機試驗，所有可能的期望信息熵為，

\(entropy(擲分幣)=-(\frac{1}{2}\times log_{_2}\frac{1}{2}+\frac{1}{2}\times log_{_2}\frac{1}{2})=log_{_2}2=1\)
\(\small{entropy(擲色子)=-(\frac{1}{6}\times log_{_2}\frac{1}{2}+\frac{1}{6}\times log_{_2}\frac{1}{2}+\frac{1}{6}\times log_{_2}\frac{1}{2}+\frac{1}{6}\times log_{_2}\frac{1}{2}+\frac{1}{6}\times log_{_2}\frac{1}{2}+\frac{1}{6}\times log_{_2}\frac{1}{2})=log_{_2}6\approx 2.585}\)

通過信息熵的定義可知，在給定特征水平數條件下，各水平發生概率相等（如擲篩子6個數字發生的概率都為\(\frac{1}{6}\)），期望信息熵最大。所以，當決策信息中某個變量特征水平較多時，ID3算法按信息增益指標往往會選擇該變量或屬性做為分割節點。

1、C4.5算法的兩個基本公式

I、“分裂信息”公式

C4.5算法首先定義了“分裂信息”，其定義可以表示成：

\[split\_info_{_A}(D)=-\sum\limits_{j=1}^v\frac{|D_{_j}|}{|D|}\times{log_{_2}(\frac{|D_{_j}|}{|D|})}\]

式中，各符號意義與ID3算法相同，符號|D|為訓練樣本數、\(|D_{_j}|\)為屬性A各水平樣本數。

II、增益率

\[gain\_ratio(A)=\frac{ratio_{_A}(D)}{split\_info_{_A}(D)}\]

III、分裂信息和增益率計算實例

在ID3算法案例中（SNS社區中不真實賬號檢測），決策屬性信息熵為：

\[info(D)=-\sum\limits_{i=1}^mp_{_i}\times{log_{_2}(p_{_i})}=-(\frac{1}{4}log_{_2}\frac{1}{4}+\frac{3}{4}log_{_2}\frac{3}{4})=0.8113\]

把決策屬性替換成其它屬性，即為各屬性分裂信息熵。

日志密度分裂信息：

\[\small{split\_info_{_L}(D)=-\sum\limits_{j=1}^3\frac{|D_{_j}|}{|D|}\times{log_{_2}(\frac{|D_{_j}|}{|D|})}=-[\frac{3}{10}\times log_{_2}\frac{3}{10}+\frac{4}{10}\times log_{_2}\frac{4}{10}+\frac{3}{10}\times log_{_2}\frac{3}{10}]=1.57095}\]

好友密度分裂信息：

\[\small{split\_info_{_F}(D)=-\sum\limits_{j=1}^3\frac{|D_{_j}|}{|D|}\times{log_{_2}(\frac{|D_{_j}|}{|D|})}=-[\frac{4}{10}\times log_{_2}\frac{4}{10}+\frac{4}{10}\times log_{_2}\frac{4}{10}+\frac{2}{10}\times log_{_2}\frac{2}{10}]=1.5219}\]

真實頭像分裂信息：

\[\small{split\_info_{_H}(D)=-\sum\limits_{j=1}^2\frac{|D_{_j}|}{|D|}\times{log_{_2}(\frac{|D_{_j}|}{|D|})}=-[\frac{5}{10}\times log_{_2}\frac{5}{10}+\frac{5}{10}\times log_{_2}\frac{5}{10}]=1}\]

由前面ID3算法已知，

各屬性增益率為，

日志密度信息增益率：\[gain\_ratio(L)=\frac{ratio_{_L}(D)}{split\_info_{_L}(D)}=\frac{0.2813}{1.57095}=0.1791\]

好友密度信息增益率: \[gain\_ratio(F)=\frac{ratio_{_F}(D)}{split\_info_{_F}(D)}=\frac{0.5568}{1.5219}=0.3659\]

真實頭像信息增益率: \[gain\_ratio(H)=\frac{ratio_{_H}(D)}{split\_info_{_H}(D)}=\frac{0.0349}{1}=0.0349\]

由上述計算結果可知“好友密度”在屬性中具有最大的信息增益比，取“好友密度”為分割屬性，引出一個分枝，樣本按此劃分。對引出的每一個分枝再用此分類法進行分類，再引出分枝。

某屬性的信息增益除以分裂信息，消除了屬性水平數量多少的影響，使得分裂屬性的選擇更加合理。

四、樣例代碼

樣例采用計算機購買意向信息表，

年齡收入學生信譽買計算機計數

青	高	否	良	不買	64
青	高	否	優	不買	64
中	高	否	良	買	128
老	中	否	良	買	60
老	低	是	良	買	64
老	低	是	優	不買	64
中	低	是	優	買	64
青	中	否	良	不買	128
青	低	是	良	買	64
老	中	是	良	買	132
青	中	是	優	買	64
中	中	否	優	買	32
中	高	是	良	買	32
老	中	否	優	不買	63
老	中	否	優	買	1

該訓練樣本集為單項分組數據，為了便于程序代碼處理，應將分組數據還原為未分組數據，并將中文信息轉換為英文字符。

No.AgeIncomeStudentReputationBuy Computer

1	Y	H	N	G	N
2	Y	H	N	G	N
3	Y	H	N	G	N
4	Y	H	N	G	N
5	Y	H	N	G	N
6	Y	H	N	G	N
7	Y	H	N	G	N
8	Y	H	N	G	N
9	Y	H	N	G	N
10	Y	H	N	G	N
11	Y	H	N	G	N
12	Y	H	N	G	N
13	Y	H	N	G	N
14	Y	H	N	G	N
15	Y	H	N	G	N
16	Y	H	N	G	N
17	Y	H	N	G	N
18	Y	H	N	G	N
19	Y	H	N	G	N
20	Y	H	N	G	N
21	Y	H	N	G	N
22	Y	H	N	G	N
23	Y	H	N	G	N
24	Y	H	N	G	N
25	Y	H	N	G	N
26	Y	H	N	G	N
27	Y	H	N	G	N
28	Y	H	N	G	N
29	Y	H	N	G	N
30	Y	H	N	G	N
31	Y	H	N	G	N
32	Y	H	N	G	N
33	Y	H	N	G	N
34	Y	H	N	G	N
35	Y	H	N	G	N
36	Y	H	N	G	N
37	Y	H	N	G	N
38	Y	H	N	G	N
39	Y	H	N	G	N
40	Y	H	N	G	N
41	Y	H	N	G	N
42	Y	H	N	G	N
43	Y	H	N	G	N
44	Y	H	N	G	N
45	Y	H	N	G	N
46	Y	H	N	G	N
47	Y	H	N	G	N
48	Y	H	N	G	N
49	Y	H	N	G	N
50	Y	H	N	G	N
51	Y	H	N	G	N
52	Y	H	N	G	N
53	Y	H	N	G	N
54	Y	H	N	G	N
55	Y	H	N	G	N
56	Y	H	N	G	N
57	Y	H	N	G	N
58	Y	H	N	G	N
59	Y	H	N	G	N
60	Y	H	N	G	N
61	Y	H	N	G	N
62	Y	H	N	G	N
63	Y	H	N	G	N
64	Y	H	N	G	N
65	Y	H	N	E	N
66	Y	H	N	E	N
67	Y	H	N	E	N
68	Y	H	N	E	N
69	Y	H	N	E	N
70	Y	H	N	E	N
71	Y	H	N	E	N
72	Y	H	N	E	N
73	Y	H	N	E	N
74	Y	H	N	E	N
75	Y	H	N	E	N
76	Y	H	N	E	N
77	Y	H	N	E	N
78	Y	H	N	E	N
79	Y	H	N	E	N
80	Y	H	N	E	N
81	Y	H	N	E	N
82	Y	H	N	E	N
83	Y	H	N	E	N
84	Y	H	N	E	N
85	Y	H	N	E	N
86	Y	H	N	E	N
87	Y	H	N	E	N
88	Y	H	N	E	N
89	Y	H	N	E	N
90	Y	H	N	E	N
91	Y	H	N	E	N
92	Y	H	N	E	N
93	Y	H	N	E	N
94	Y	H	N	E	N
95	Y	H	N	E	N
96	Y	H	N	E	N
97	Y	H	N	E	N
98	Y	H	N	E	N
99	Y	H	N	E	N
100	Y	H	N	E	N
101	Y	H	N	E	N
102	Y	H	N	E	N
103	Y	H	N	E	N
104	Y	H	N	E	N
105	Y	H	N	E	N
106	Y	H	N	E	N
107	Y	H	N	E	N
108	Y	H	N	E	N
109	Y	H	N	E	N
110	Y	H	N	E	N
111	Y	H	N	E	N
112	Y	H	N	E	N
113	Y	H	N	E	N
114	Y	H	N	E	N
115	Y	H	N	E	N
116	Y	H	N	E	N
117	Y	H	N	E	N
118	Y	H	N	E	N
119	Y	H	N	E	N
120	Y	H	N	E	N
121	Y	H	N	E	N
122	Y	H	N	E	N
123	Y	H	N	E	N
124	Y	H	N	E	N
125	Y	H	N	E	N
126	Y	H	N	E	N
127	Y	H	N	E	N
128	Y	H	N	E	N
129	M	H	N	G	Y
130	M	H	N	G	Y
131	M	H	N	G	Y
132	M	H	N	G	Y
133	M	H	N	G	Y
134	M	H	N	G	Y
135	M	H	N	G	Y
136	M	H	N	G	Y
137	M	H	N	G	Y
138	M	H	N	G	Y
139	M	H	N	G	Y
140	M	H	N	G	Y
141	M	H	N	G	Y
142	M	H	N	G	Y
143	M	H	N	G	Y
144	M	H	N	G	Y
145	M	H	N	G	Y
146	M	H	N	G	Y
147	M	H	N	G	Y
148	M	H	N	G	Y
149	M	H	N	G	Y
150	M	H	N	G	Y
151	M	H	N	G	Y
152	M	H	N	G	Y
153	M	H	N	G	Y
154	M	H	N	G	Y
155	M	H	N	G	Y
156	M	H	N	G	Y
157	M	H	N	G	Y
158	M	H	N	G	Y
159	M	H	N	G	Y
160	M	H	N	G	Y
161	M	H	N	G	Y
162	M	H	N	G	Y
163	M	H	N	G	Y
164	M	H	N	G	Y
165	M	H	N	G	Y
166	M	H	N	G	Y
167	M	H	N	G	Y
168	M	H	N	G	Y
169	M	H	N	G	Y
170	M	H	N	G	Y
171	M	H	N	G	Y
172	M	H	N	G	Y
173	M	H	N	G	Y
174	M	H	N	G	Y
175	M	H	N	G	Y
176	M	H	N	G	Y
177	M	H	N	G	Y
178	M	H	N	G	Y
179	M	H	N	G	Y
180	M	H	N	G	Y
181	M	H	N	G	Y
182	M	H	N	G	Y
183	M	H	N	G	Y
184	M	H	N	G	Y
185	M	H	N	G	Y
186	M	H	N	G	Y
187	M	H	N	G	Y
188	M	H	N	G	Y
189	M	H	N	G	Y
190	M	H	N	G	Y
191	M	H	N	G	Y
192	M	H	N	G	Y
193	M	H	N	G	Y
194	M	H	N	G	Y
195	M	H	N	G	Y
196	M	H	N	G	Y
197	M	H	N	G	Y
198	M	H	N	G	Y
199	M	H	N	G	Y
200	M	H	N	G	Y
201	M	H	N	G	Y
202	M	H	N	G	Y
203	M	H	N	G	Y
204	M	H	N	G	Y
205	M	H	N	G	Y
206	M	H	N	G	Y
207	M	H	N	G	Y
208	M	H	N	G	Y
209	M	H	N	G	Y
210	M	H	N	G	Y
211	M	H	N	G	Y
212	M	H	N	G	Y
213	M	H	N	G	Y
214	M	H	N	G	Y
215	M	H	N	G	Y
216	M	H	N	G	Y
217	M	H	N	G	Y
218	M	H	N	G	Y
219	M	H	N	G	Y
220	M	H	N	G	Y
221	M	H	N	G	Y
222	M	H	N	G	Y
223	M	H	N	G	Y
224	M	H	N	G	Y
225	M	H	N	G	Y
226	M	H	N	G	Y
227	M	H	N	G	Y
228	M	H	N	G	Y
229	M	H	N	G	Y
230	M	H	N	G	Y
231	M	H	N	G	Y
232	M	H	N	G	Y
233	M	H	N	G	Y
234	M	H	N	G	Y
235	M	H	N	G	Y
236	M	H	N	G	Y
237	M	H	N	G	Y
238	M	H	N	G	Y
239	M	H	N	G	Y
240	M	H	N	G	Y
241	M	H	N	G	Y
242	M	H	N	G	Y
243	M	H	N	G	Y
244	M	H	N	G	Y
245	M	H	N	G	Y
246	M	H	N	G	Y
247	M	H	N	G	Y
248	M	H	N	G	Y
249	M	H	N	G	Y
250	M	H	N	G	Y
251	M	H	N	G	Y
252	M	H	N	G	Y
253	M	H	N	G	Y
254	M	H	N	G	Y
255	M	H	N	G	Y
256	M	H	N	G	Y
257	L	M	N	G	Y
258	L	M	N	G	Y
259	L	M	N	G	Y
260	L	M	N	G	Y
261	L	M	N	G	Y
262	L	M	N	G	Y
263	L	M	N	G	Y
264	L	M	N	G	Y
265	L	M	N	G	Y
266	L	M	N	G	Y
267	L	M	N	G	Y
268	L	M	N	G	Y
269	L	M	N	G	Y
270	L	M	N	G	Y
271	L	M	N	G	Y
272	L	M	N	G	Y
273	L	M	N	G	Y
274	L	M	N	G	Y
275	L	M	N	G	Y
276	L	M	N	G	Y
277	L	M	N	G	Y
278	L	M	N	G	Y
279	L	M	N	G	Y
280	L	M	N	G	Y
281	L	M	N	G	Y
282	L	M	N	G	Y
283	L	M	N	G	Y
284	L	M	N	G	Y
285	L	M	N	G	Y
286	L	M	N	G	Y
287	L	M	N	G	Y
288	L	M	N	G	Y
289	L	M	N	G	Y
290	L	M	N	G	Y
291	L	M	N	G	Y
292	L	M	N	G	Y
293	L	M	N	G	Y
294	L	M	N	G	Y
295	L	M	N	G	Y
296	L	M	N	G	Y
297	L	M	N	G	Y
298	L	M	N	G	Y
299	L	M	N	G	Y
300	L	M	N	G	Y
301	L	M	N	G	Y
302	L	M	N	G	Y
303	L	M	N	G	Y
304	L	M	N	G	Y
305	L	M	N	G	Y
306	L	M	N	G	Y
307	L	M	N	G	Y
308	L	M	N	G	Y
309	L	M	N	G	Y
310	L	M	N	G	Y
311	L	M	N	G	Y
312	L	M	N	G	Y
313	L	M	N	G	Y
314	L	M	N	G	Y
315	L	M	N	G	Y
316	L	M	N	G	Y
317	L	L	Y	G	Y
318	L	L	Y	G	Y
319	L	L	Y	G	Y
320	L	L	Y	G	Y
321	L	L	Y	G	Y
322	L	L	Y	G	Y
323	L	L	Y	G	Y
324	L	L	Y	G	Y
325	L	L	Y	G	Y
326	L	L	Y	G	Y
327	L	L	Y	G	Y
328	L	L	Y	G	Y
329	L	L	Y	G	Y
330	L	L	Y	G	Y
331	L	L	Y	G	Y
332	L	L	Y	G	Y
333	L	L	Y	G	Y
334	L	L	Y	G	Y
335	L	L	Y	G	Y
336	L	L	Y	G	Y
337	L	L	Y	G	Y
338	L	L	Y	G	Y
339	L	L	Y	G	Y
340	L	L	Y	G	Y
341	L	L	Y	G	Y
342	L	L	Y	G	Y
343	L	L	Y	G	Y
344	L	L	Y	G	Y
345	L	L	Y	G	Y
346	L	L	Y	G	Y
347	L	L	Y	G	Y
348	L	L	Y	G	Y
349	L	L	Y	G	Y
350	L	L	Y	G	Y
351	L	L	Y	G	Y
352	L	L	Y	G	Y
353	L	L	Y	G	Y
354	L	L	Y	G	Y
355	L	L	Y	G	Y
356	L	L	Y	G	Y
357	L	L	Y	G	Y
358	L	L	Y	G	Y
359	L	L	Y	G	Y
360	L	L	Y	G	Y
361	L	L	Y	G	Y
362	L	L	Y	G	Y
363	L	L	Y	G	Y
364	L	L	Y	G	Y
365	L	L	Y	G	Y
366	L	L	Y	G	Y
367	L	L	Y	G	Y
368	L	L	Y	G	Y
369	L	L	Y	G	Y
370	L	L	Y	G	Y
371	L	L	Y	G	Y
372	L	L	Y	G	Y
373	L	L	Y	G	Y
374	L	L	Y	G	Y
375	L	L	Y	G	Y
376	L	L	Y	G	Y
377	L	L	Y	G	Y
378	L	L	Y	G	Y
379	L	L	Y	G	Y
380	L	L	Y	G	Y
381	L	L	Y	E	N
382	L	L	Y	E	N
383	L	L	Y	E	N
384	L	L	Y	E	N
385	L	L	Y	E	N
386	L	L	Y	E	N
387	L	L	Y	E	N
388	L	L	Y	E	N
389	L	L	Y	E	N
390	L	L	Y	E	N
391	L	L	Y	E	N
392	L	L	Y	E	N
393	L	L	Y	E	N
394	L	L	Y	E	N
395	L	L	Y	E	N
396	L	L	Y	E	N
397	L	L	Y	E	N
398	L	L	Y	E	N
399	L	L	Y	E	N
400	L	L	Y	E	N
401	L	L	Y	E	N
402	L	L	Y	E	N
403	L	L	Y	E	N
404	L	L	Y	E	N
405	L	L	Y	E	N
406	L	L	Y	E	N
407	L	L	Y	E	N
408	L	L	Y	E	N
409	L	L	Y	E	N
410	L	L	Y	E	N
411	L	L	Y	E	N
412	L	L	Y	E	N
413	L	L	Y	E	N
414	L	L	Y	E	N
415	L	L	Y	E	N
416	L	L	Y	E	N
417	L	L	Y	E	N
418	L	L	Y	E	N
419	L	L	Y	E	N
420	L	L	Y	E	N
421	L	L	Y	E	N
422	L	L	Y	E	N
423	L	L	Y	E	N
424	L	L	Y	E	N
425	L	L	Y	E	N
426	L	L	Y	E	N
427	L	L	Y	E	N
428	L	L	Y	E	N
429	L	L	Y	E	N
430	L	L	Y	E	N
431	L	L	Y	E	N
432	L	L	Y	E	N
433	L	L	Y	E	N
434	L	L	Y	E	N
435	L	L	Y	E	N
436	L	L	Y	E	N
437	L	L	Y	E	N
438	L	L	Y	E	N
439	L	L	Y	E	N
440	L	L	Y	E	N
441	L	L	Y	E	N
442	L	L	Y	E	N
443	L	L	Y	E	N
444	L	L	Y	E	N
445	M	L	Y	E	Y
446	M	L	Y	E	Y
447	M	L	Y	E	Y
448	M	L	Y	E	Y
449	M	L	Y	E	Y
450	M	L	Y	E	Y
451	M	L	Y	E	Y
452	M	L	Y	E	Y
453	M	L	Y	E	Y
454	M	L	Y	E	Y
455	M	L	Y	E	Y
456	M	L	Y	E	Y
457	M	L	Y	E	Y
458	M	L	Y	E	Y
459	M	L	Y	E	Y
460	M	L	Y	E	Y
461	M	L	Y	E	Y
462	M	L	Y	E	Y
463	M	L	Y	E	Y
464	M	L	Y	E	Y
465	M	L	Y	E	Y
466	M	L	Y	E	Y
467	M	L	Y	E	Y
468	M	L	Y	E	Y
469	M	L	Y	E	Y
470	M	L	Y	E	Y
471	M	L	Y	E	Y
472	M	L	Y	E	Y
473	M	L	Y	E	Y
474	M	L	Y	E	Y
475	M	L	Y	E	Y
476	M	L	Y	E	Y
477	M	L	Y	E	Y
478	M	L	Y	E	Y
479	M	L	Y	E	Y
480	M	L	Y	E	Y
481	M	L	Y	E	Y
482	M	L	Y	E	Y
483	M	L	Y	E	Y
484	M	L	Y	E	Y
485	M	L	Y	E	Y
486	M	L	Y	E	Y
487	M	L	Y	E	Y
488	M	L	Y	E	Y
489	M	L	Y	E	Y
490	M	L	Y	E	Y
491	M	L	Y	E	Y
492	M	L	Y	E	Y
493	M	L	Y	E	Y
494	M	L	Y	E	Y
495	M	L	Y	E	Y
496	M	L	Y	E	Y
497	M	L	Y	E	Y
498	M	L	Y	E	Y
499	M	L	Y	E	Y
500	M	L	Y	E	Y
501	M	L	Y	E	Y
502	M	L	Y	E	Y
503	M	L	Y	E	Y
504	M	L	Y	E	Y
505	M	L	Y	E	Y
506	M	L	Y	E	Y
507	M	L	Y	E	Y
508	M	L	Y	E	Y
509	Y	M	N	G	N
510	Y	M	N	G	N
511	Y	M	N	G	N
512	Y	M	N	G	N
513	Y	M	N	G	N
514	Y	M	N	G	N
515	Y	M	N	G	N
516	Y	M	N	G	N
517	Y	M	N	G	N
518	Y	M	N	G	N
519	Y	M	N	G	N
520	Y	M	N	G	N
521	Y	M	N	G	N
522	Y	M	N	G	N
523	Y	M	N	G	N
524	Y	M	N	G	N
525	Y	M	N	G	N
526	Y	M	N	G	N
527	Y	M	N	G	N
528	Y	M	N	G	N
529	Y	M	N	G	N
530	Y	M	N	G	N
531	Y	M	N	G	N
532	Y	M	N	G	N
533	Y	M	N	G	N
534	Y	M	N	G	N
535	Y	M	N	G	N
536	Y	M	N	G	N
537	Y	M	N	G	N
538	Y	M	N	G	N
539	Y	M	N	G	N
540	Y	M	N	G	N
541	Y	M	N	G	N
542	Y	M	N	G	N
543	Y	M	N	G	N
544	Y	M	N	G	N
545	Y	M	N	G	N
546	Y	M	N	G	N
547	Y	M	N	G	N
548	Y	M	N	G	N
549	Y	M	N	G	N
550	Y	M	N	G	N
551	Y	M	N	G	N
552	Y	M	N	G	N
553	Y	M	N	G	N
554	Y	M	N	G	N
555	Y	M	N	G	N
556	Y	M	N	G	N
557	Y	M	N	G	N
558	Y	M	N	G	N
559	Y	M	N	G	N
560	Y	M	N	G	N
561	Y	M	N	G	N
562	Y	M	N	G	N
563	Y	M	N	G	N
564	Y	M	N	G	N
565	Y	M	N	G	N
566	Y	M	N	G	N
567	Y	M	N	G	N
568	Y	M	N	G	N
569	Y	M	N	G	N
570	Y	M	N	G	N
571	Y	M	N	G	N
572	Y	M	N	G	N
573	Y	M	N	G	N
574	Y	M	N	G	N
575	Y	M	N	G	N
576	Y	M	N	G	N
577	Y	M	N	G	N
578	Y	M	N	G	N
579	Y	M	N	G	N
580	Y	M	N	G	N
581	Y	M	N	G	N
582	Y	M	N	G	N
583	Y	M	N	G	N
584	Y	M	N	G	N
585	Y	M	N	G	N
586	Y	M	N	G	N
587	Y	M	N	G	N
588	Y	M	N	G	N
589	Y	M	N	G	N
590	Y	M	N	G	N
591	Y	M	N	G	N
592	Y	M	N	G	N
593	Y	M	N	G	N
594	Y	M	N	G	N
595	Y	M	N	G	N
596	Y	M	N	G	N
597	Y	M	N	G	N
598	Y	M	N	G	N
599	Y	M	N	G	N
600	Y	M	N	G	N
601	Y	M	N	G	N
602	Y	M	N	G	N
603	Y	M	N	G	N
604	Y	M	N	G	N
605	Y	M	N	G	N
606	Y	M	N	G	N
607	Y	M	N	G	N
608	Y	M	N	G	N
609	Y	M	N	G	N
610	Y	M	N	G	N
611	Y	M	N	G	N
612	Y	M	N	G	N
613	Y	M	N	G	N
614	Y	M	N	G	N
615	Y	M	N	G	N
616	Y	M	N	G	N
617	Y	M	N	G	N
618	Y	M	N	G	N
619	Y	M	N	G	N
620	Y	M	N	G	N
621	Y	M	N	G	N
622	Y	M	N	G	N
623	Y	M	N	G	N
624	Y	M	N	G	N
625	Y	M	N	G	N
626	Y	M	N	G	N
627	Y	M	N	G	N
628	Y	M	N	G	N
629	Y	M	N	G	N
630	Y	M	N	G	N
631	Y	M	N	G	N
632	Y	M	N	G	N
633	Y	M	N	G	N
634	Y	M	N	G	N
635	Y	M	N	G	N
636	Y	M	N	G	N
637	Y	L	Y	G	Y
638	Y	L	Y	G	Y
639	Y	L	Y	G	Y
640	Y	L	Y	G	Y
641	Y	L	Y	G	Y
642	Y	L	Y	G	Y
643	Y	L	Y	G	Y
644	Y	L	Y	G	Y
645	Y	L	Y	G	Y
646	Y	L	Y	G	Y
647	Y	L	Y	G	Y
648	Y	L	Y	G	Y
649	Y	L	Y	G	Y
650	Y	L	Y	G	Y
651	Y	L	Y	G	Y
652	Y	L	Y	G	Y
653	Y	L	Y	G	Y
654	Y	L	Y	G	Y
655	Y	L	Y	G	Y
656	Y	L	Y	G	Y
657	Y	L	Y	G	Y
658	Y	L	Y	G	Y
659	Y	L	Y	G	Y
660	Y	L	Y	G	Y
661	Y	L	Y	G	Y
662	Y	L	Y	G	Y
663	Y	L	Y	G	Y
664	Y	L	Y	G	Y
665	Y	L	Y	G	Y
666	Y	L	Y	G	Y
667	Y	L	Y	G	Y
668	Y	L	Y	G	Y
669	Y	L	Y	G	Y
670	Y	L	Y	G	Y
671	Y	L	Y	G	Y
672	Y	L	Y	G	Y
673	Y	L	Y	G	Y
674	Y	L	Y	G	Y
675	Y	L	Y	G	Y
676	Y	L	Y	G	Y
677	Y	L	Y	G	Y
678	Y	L	Y	G	Y
679	Y	L	Y	G	Y
680	Y	L	Y	G	Y
681	Y	L	Y	G	Y
682	Y	L	Y	G	Y
683	Y	L	Y	G	Y
684	Y	L	Y	G	Y
685	Y	L	Y	G	Y
686	Y	L	Y	G	Y
687	Y	L	Y	G	Y
688	Y	L	Y	G	Y
689	Y	L	Y	G	Y
690	Y	L	Y	G	Y
691	Y	L	Y	G	Y
692	Y	L	Y	G	Y
693	Y	L	Y	G	Y
694	Y	L	Y	G	Y
695	Y	L	Y	G	Y
696	Y	L	Y	G	Y
697	Y	L	Y	G	Y
698	Y	L	Y	G	Y
699	Y	L	Y	G	Y
700	Y	L	Y	G	Y
701	L	M	Y	G	Y
702	L	M	Y	G	Y
703	L	M	Y	G	Y
704	L	M	Y	G	Y
705	L	M	Y	G	Y
706	L	M	Y	G	Y
707	L	M	Y	G	Y
708	L	M	Y	G	Y
709	L	M	Y	G	Y
710	L	M	Y	G	Y
711	L	M	Y	G	Y
712	L	M	Y	G	Y
713	L	M	Y	G	Y
714	L	M	Y	G	Y
715	L	M	Y	G	Y
716	L	M	Y	G	Y
717	L	M	Y	G	Y
718	L	M	Y	G	Y
719	L	M	Y	G	Y
720	L	M	Y	G	Y
721	L	M	Y	G	Y
722	L	M	Y	G	Y
723	L	M	Y	G	Y
724	L	M	Y	G	Y
725	L	M	Y	G	Y
726	L	M	Y	G	Y
727	L	M	Y	G	Y
728	L	M	Y	G	Y
729	L	M	Y	G	Y
730	L	M	Y	G	Y
731	L	M	Y	G	Y
732	L	M	Y	G	Y
733	L	M	Y	G	Y
734	L	M	Y	G	Y
735	L	M	Y	G	Y
736	L	M	Y	G	Y
737	L	M	Y	G	Y
738	L	M	Y	G	Y
739	L	M	Y	G	Y
740	L	M	Y	G	Y
741	L	M	Y	G	Y
742	L	M	Y	G	Y
743	L	M	Y	G	Y
744	L	M	Y	G	Y
745	L	M	Y	G	Y
746	L	M	Y	G	Y
747	L	M	Y	G	Y
748	L	M	Y	G	Y
749	L	M	Y	G	Y
750	L	M	Y	G	Y
751	L	M	Y	G	Y
752	L	M	Y	G	Y
753	L	M	Y	G	Y
754	L	M	Y	G	Y
755	L	M	Y	G	Y
756	L	M	Y	G	Y
757	L	M	Y	G	Y
758	L	M	Y	G	Y
759	L	M	Y	G	Y
760	L	M	Y	G	Y
761	L	M	Y	G	Y
762	L	M	Y	G	Y
763	L	M	Y	G	Y
764	L	M	Y	G	Y
765	L	M	Y	G	Y
766	L	M	Y	G	Y
767	L	M	Y	G	Y
768	L	M	Y	G	Y
769	L	M	Y	G	Y
770	L	M	Y	G	Y
771	L	M	Y	G	Y
772	L	M	Y	G	Y
773	L	M	Y	G	Y
774	L	M	Y	G	Y
775	L	M	Y	G	Y
776	L	M	Y	G	Y
777	L	M	Y	G	Y
778	L	M	Y	G	Y
779	L	M	Y	G	Y
780	L	M	Y	G	Y
781	L	M	Y	G	Y
782	L	M	Y	G	Y
783	L	M	Y	G	Y
784	L	M	Y	G	Y
785	L	M	Y	G	Y
786	L	M	Y	G	Y
787	L	M	Y	G	Y
788	L	M	Y	G	Y
789	L	M	Y	G	Y
790	L	M	Y	G	Y
791	L	M	Y	G	Y
792	L	M	Y	G	Y
793	L	M	Y	G	Y
794	L	M	Y	G	Y
795	L	M	Y	G	Y
796	L	M	Y	G	Y
797	L	M	Y	G	Y
798	L	M	Y	G	Y
799	L	M	Y	G	Y
800	L	M	Y	G	Y
801	L	M	Y	G	Y
802	L	M	Y	G	Y
803	L	M	Y	G	Y
804	L	M	Y	G	Y
805	L	M	Y	G	Y
806	L	M	Y	G	Y
807	L	M	Y	G	Y
808	L	M	Y	G	Y
809	L	M	Y	G	Y
810	L	M	Y	G	Y
811	L	M	Y	G	Y
812	L	M	Y	G	Y
813	L	M	Y	G	Y
814	L	M	Y	G	Y
815	L	M	Y	G	Y
816	L	M	Y	G	Y
817	L	M	Y	G	Y
818	L	M	Y	G	Y
819	L	M	Y	G	Y
820	L	M	Y	G	Y
821	L	M	Y	G	Y
822	L	M	Y	G	Y
823	L	M	Y	G	Y
824	L	M	Y	G	Y
825	L	M	Y	G	Y
826	L	M	Y	G	Y
827	L	M	Y	G	Y
828	L	M	Y	G	Y
829	L	M	Y	G	Y
830	L	M	Y	G	Y
831	L	M	Y	G	Y
832	L	M	Y	G	Y
833	Y	M	Y	E	Y
834	Y	M	Y	E	Y
835	Y	M	Y	E	Y
836	Y	M	Y	E	Y
837	Y	M	Y	E	Y
838	Y	M	Y	E	Y
839	Y	M	Y	E	Y
840	Y	M	Y	E	Y
841	Y	M	Y	E	Y
842	Y	M	Y	E	Y
843	Y	M	Y	E	Y
844	Y	M	Y	E	Y
845	Y	M	Y	E	Y
846	Y	M	Y	E	Y
847	Y	M	Y	E	Y
848	Y	M	Y	E	Y
849	Y	M	Y	E	Y
850	Y	M	Y	E	Y
851	Y	M	Y	E	Y
852	Y	M	Y	E	Y
853	Y	M	Y	E	Y
854	Y	M	Y	E	Y
855	Y	M	Y	E	Y
856	Y	M	Y	E	Y
857	Y	M	Y	E	Y
858	Y	M	Y	E	Y
859	Y	M	Y	E	Y
860	Y	M	Y	E	Y
861	Y	M	Y	E	Y
862	Y	M	Y	E	Y
863	Y	M	Y	E	Y
864	Y	M	Y	E	Y
865	Y	M	Y	E	Y
866	Y	M	Y	E	Y
867	Y	M	Y	E	Y
868	Y	M	Y	E	Y
869	Y	M	Y	E	Y
870	Y	M	Y	E	Y
871	Y	M	Y	E	Y
872	Y	M	Y	E	Y
873	Y	M	Y	E	Y
874	Y	M	Y	E	Y
875	Y	M	Y	E	Y
876	Y	M	Y	E	Y
877	Y	M	Y	E	Y
878	Y	M	Y	E	Y
879	Y	M	Y	E	Y
880	Y	M	Y	E	Y
881	Y	M	Y	E	Y
882	Y	M	Y	E	Y
883	Y	M	Y	E	Y
884	Y	M	Y	E	Y
885	Y	M	Y	E	Y
886	Y	M	Y	E	Y
887	Y	M	Y	E	Y
888	Y	M	Y	E	Y
889	Y	M	Y	E	Y
890	Y	M	Y	E	Y
891	Y	M	Y	E	Y
892	Y	M	Y	E	Y
893	Y	M	Y	E	Y
894	Y	M	Y	E	Y
895	Y	M	Y	E	Y
896	Y	M	Y	E	Y
897	M	M	N	E	Y
898	M	M	N	E	Y
899	M	M	N	E	Y
900	M	M	N	E	Y
901	M	M	N	E	Y
902	M	M	N	E	Y
903	M	M	N	E	Y
904	M	M	N	E	Y
905	M	M	N	E	Y
906	M	M	N	E	Y
907	M	M	N	E	Y
908	M	M	N	E	Y
909	M	M	N	E	Y
910	M	M	N	E	Y
911	M	M	N	E	Y
912	M	M	N	E	Y
913	M	M	N	E	Y
914	M	M	N	E	Y
915	M	M	N	E	Y
916	M	M	N	E	Y
917	M	M	N	E	Y
918	M	M	N	E	Y
919	M	M	N	E	Y
920	M	M	N	E	Y
921	M	M	N	E	Y
922	M	M	N	E	Y
923	M	M	N	E	Y
924	M	M	N	E	Y
925	M	M	N	E	Y
926	M	M	N	E	Y
927	M	M	N	E	Y
928	M	M	N	E	Y
929	M	H	Y	G	Y
930	M	H	Y	G	Y
931	M	H	Y	G	Y
932	M	H	Y	G	Y
933	M	H	Y	G	Y
934	M	H	Y	G	Y
935	M	H	Y	G	Y
936	M	H	Y	G	Y
937	M	H	Y	G	Y
938	M	H	Y	G	Y
939	M	H	Y	G	Y
940	M	H	Y	G	Y
941	M	H	Y	G	Y
942	M	H	Y	G	Y
943	M	H	Y	G	Y
944	M	H	Y	G	Y
945	M	H	Y	G	Y
946	M	H	Y	G	Y
947	M	H	Y	G	Y
948	M	H	Y	G	Y
949	M	H	Y	G	Y
950	M	H	Y	G	Y
951	M	H	Y	G	Y
952	M	H	Y	G	Y
953	M	H	Y	G	Y
954	M	H	Y	G	Y
955	M	H	Y	G	Y
956	M	H	Y	G	Y
957	M	H	Y	G	Y
958	M	H	Y	G	Y
959	M	H	Y	G	Y
960	M	H	Y	G	Y
961	L	M	N	E	N
962	L	M	N	E	N
963	L	M	N	E	N
964	L	M	N	E	N
965	L	M	N	E	N
966	L	M	N	E	N
967	L	M	N	E	N
968	L	M	N	E	N
969	L	M	N	E	N
970	L	M	N	E	N
971	L	M	N	E	N
972	L	M	N	E	N
973	L	M	N	E	N
974	L	M	N	E	N
975	L	M	N	E	N
976	L	M	N	E	N
977	L	M	N	E	N
978	L	M	N	E	N
979	L	M	N	E	N
980	L	M	N	E	N
981	L	M	N	E	N
982	L	M	N	E	N
983	L	M	N	E	N
984	L	M	N	E	N
985	L	M	N	E	N
986	L	M	N	E	N
987	L	M	N	E	N
988	L	M	N	E	N
989	L	M	N	E	N
990	L	M	N	E	N
991	L	M	N	E	N
992	L	M	N	E	N
993	L	M	N	E	N
994	L	M	N	E	N
995	L	M	N	E	N
996	L	M	N	E	N
997	L	M	N	E	N
998	L	M	N	E	N
999	L	M	N	E	N
1000	L	M	N	E	N
1001	L	M	N	E	N
1002	L	M	N	E	N
1003	L	M	N	E	N
1004	L	M	N	E	N
1005	L	M	N	E	N
1006	L	M	N	E	N
1007	L	M	N	E	N
1008	L	M	N	E	N
1009	L	M	N	E	N
1010	L	M	N	E	N
1011	L	M	N	E	N
1012	L	M	N	E	N
1013	L	M	N	E	N
1014	L	M	N	E	N
1015	L	M	N	E	N
1016	L	M	N	E	N
1017	L	M	N	E	N
1018	L	M	N	E	N
1019	L	M	N	E	N
1020	L	M	N	E	N
1021	L	M	N	E	N
1022	L	M	N	E	N
1023	L	M	N	E	N
1024	L	M	N	E	Y

## 函數 - C4.5分類決策樹算法webTJ.Datamining.setCTree(arrs,srrs); ##參數【arrs,srrs】【訓練樣本和決策數組,學習樣本數組】

代碼樣例

在函數webTJ.Datamining.setC45中，訓練樣本、決策特征變量樣本和學習樣本都以數組形式表達，決策特征變量樣本為最后一列。如果學習樣本只有一組，應按一維數組形式輸入，如['M','H','N','G','Y']。

五、案例分析

轉載于:https://www.cnblogs.com/cloudtj/p/6874384.html

總結

以上是生活随笔為你收集整理的ID3和C4.5分类决策树算法 - 数据挖掘算法（7）的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。

上一篇：华为路由器Q6电力线版评测华为路由器如
下一篇： nio框架中的多个Selector结构