ID3算法Java实现

ID3算法java实现

1 ID3算法概述

1.1 信息熵

熵是无序性（或不确定性）的度量指标。假如事件A的全概率划分是（A1,A2,...,An），每部分发生的概率是(p1,p2,...,pn)。那信息熵定义为：

通常以2为底数。所以信息熵的单位是bit。

1.2 决策树

决策树是以实例为基础的归纳学习算法。它从一组无次序、无规则的元组中推理出决策树表示形式的分类规则。它採用自顶向下的递归方式。在决策树的内部结点进行属性值的比較，并依据不同的属性值从该结点向下分支，叶结点是要学习划分的类。从根到叶结点的一条路径就相应着一条合取规则，整个决策树就相应着一组析取表达式规则。

1.3 ID3算法

ID3算法的核心是：在决策树各级结点上选择属性时，用信息增益（information gain）作为属性的选择标准，以使得在每个非叶结点进行測试时，能获得关于被測试记录最大的类别信息。其详细方法是：检測全部的属性，选择信息增益最大的属性产生决策树结点，由该属性的不同取值建立分支，再对各分支的子集递归调用该方法建立决策树结点的分支，直到全部子集仅包括同一类别的数据为止。

最后得到一棵决策树，它能够用来对新的样本进行分类。

2 取样实验

样本数据：

outlook	temperature	humidity	windy	play
sunny	hot	high	FALSE	no
sunny	hot	high	TRUE	no
overcast	hot	high	FALSE	yes
rainy	mild	high	FALSE	yes
rainy	cool	normal	FALSE	yes
rainy	cool	normal	TRUE	no
overcast	cool	normal	TRUE	yes
sunny	mild	high	FALSE	no
sunny	cool	normal	FALSE	yes
rainy	mild	normal	FALSE	yes
sunny	mild	normal	TRUE	yes
overcast	mild	high	TRUE	yes
overcast	hot	normal	FALSE	yes
rainy	mild	high	TRUE	No

统计数据：（便于计算熵值）

outlook			temperature			humidity			windy			play
	yes	no		yes	no		yes	no		yes	no	yes	no
sunny	2	3	hot	2	2	high	3	4	FALSE	6	2	9	5
overcast	4	0	mild	4	2	normal	6	1	TRUR	3	3
rainy	3	2	cool	3	1

2.1 Outlook为sunny时：

temperature	humidity	windy	play
hot	high	FALSE	no
hot	high	TRUE	no
mild	high	FALSE	no
cool	normal	FALSE	yes
mild	normal	TRUE	yes

temperature			humidity			windy			play
	yes	no		yes	no		yes	no	yes	no
hot	0	2	high	0	3	FALSE	1	2	2	3
mild	1	1	normal	2	0	TRUR	1	1
cool	1	0

2.1.1 humidity为high时：

temperature	windy	play
hot	FALSE	no
hot	TRUE	no
mild	FALSE	no

另外一种情况，所以的样本都属于同一类别，用相应的类别属性no来标记

2.1.2 humidity为normal时：

temperature	windy	play
cool	FALSE	yes
mild	TRUE	yes

另外一种情况，所以的样本都属于同一类别。用相应的类别属性yes来标记

2.2 Outlook为overcast时：

temperature	humidity	windy	play
hot	high	FALSE	yes
cool	normal	TRUE	yes
mild	high	TRUE	yes
hot	normal	FALSE	yes

另外一种情况。所以的样本都属于同一类别，用相应的类别属性yes来标记

2.3 Outlook为rainy时：

temperature	humidity	windy	play
mild	high	FALSE	yes
cool	normal	FALSE	yes
cool	normal	TRUE	no
mild	normal	FALSE	yes
mild	high	TRUE	no

temperature			humidity			windy			play
	yes	no		yes	no		yes	no	yes	no
mild	2	1	high	1	1	FALSE	3	0	3	2
cool	1	1	normal	2	1	TRUR	0	2

2.3.1 temperature为milk时：

humidity	windy	play
high	FALSE	yes
normal	FALSE	yes
high	TRUE	no

humidity			windy			play
	yes	no		yes	no	yes	no
high	1	1	FALSE	2	0	2	1
normal	1	0	TRUR	0	1

2.3.1.1 windy为false时：

humidity	play
high	yes
normal	yes

另外一种情况，所以的样本都属于同一类别。用相应的类别属性yes来标记

2.3.1.2 windy为true时：

humidity	play
high	no

另外一种情况。所以的样本都属于同一类别，用相应的类别属性no来标记

2.3.2 temperature为cool时：

temperature	humidity	windy	play
cool	normal	FALSE	yes
cool	normal	TRUE	yes

另外一种情况，所以的样本都属于同一类别，用相应的类别属性yes来标记

经计算得到的决策树：

3 ID3算法Java实现

ID3算法实现包含四个类的设计：

一、 决策树节点类（TreeNode类），包含类属性：name（节点属性名称）。rule（节点属性值域，也就是相应决策树的分裂规则），child（节点下的孩子节点）。datas（当前决策下相应的样本元组）， candidateAttr（当前决策下剩余的分类属性）。

二、 最大信息增益节点计算类（Gain类）：包含属性值：D（当前决策层次下的样本数据），attrList（当前决策层次下的剩余分类属性）；包含方法：统计属性取值方法，统计属性不同取值计数方法，计算先验熵和条件熵的方法。筛选指定属性索引在指定值上的样本元组方法。通过先验熵减后验熵计算出最大信息增益值属性的方法。详细方法在程序中都已经凝视。在这里仅仅是依据需求给出方法的大致功能。

三、决策树建立类（DecisionTree类）：包含方法：计算当前样本中分类属性的取值及其计数，并由此计算出多数类，决策树节点递归构建构成，详细实现思想同课上讲授内容。在此不在重述，借助的类是增益值计算类。

四、 ID3算法測试类（TestDecisionTree类）：借助于上面决策树建立类，决策树节点之间连接已经建立完成。以下将以上第二部分的样本数据作为測试数据，而且实现递归打印方法，输出决策树详细内容。