Evernote Export

1.监督学习

我们向系统中输出样本，并且告诉系统样本标签(target)，系统用我们给出的不同样本的成功与失败的信息，构建它对成功或失败的因素的理解。

2.分类与回归之间的区别

分类知识一个获取某类输入的过程，然后将它(x)映射到某些离散标签（T or F）
分类与回归的区别
分类是从某中输入映射到某些可能代表概念的少量离散值
回归是从某种输入空间映射到某个实际数组
分类的输出最终是几个固定的离散值
回归的输出最终是连续的值域

3.分类学习

术语解释
1.instances(实例) 就是值和属性的向量输入
2.concept(函数) function 函数将输入映射到输出，提取实例
3.target(目标) 实际的输出答案
4.hypothesis(假设)考虑的所有概念的集合，就是所有可能的函数
5.sample(样本)训练集合 所有的输入与对应的标签集合的数据集
6.candidate(候选者) 一个你认为可能会成为目标的值
7.testing set(测试集)在测试时，用测试集进行测试由候选者的概念判断其是否正确，然后将其与测试集的实际结果进行比较
测试集和训练集不能是相同的，这样就不能表示出模型的泛化能力

4.表示法

决策树的表示法：只有在了解并分析样本后，我们才能思考查找或构建决策树的算法

5.决策树学习

1.挑选最佳属性
2.根据回答挑选更多属性
3.跟据路径查找更多的属性和道路
4.找到最终的输出结果

12.决策树可表达性 AND

决策树可以用布尔值的正否表示

18.ID3算法

你只需要不断循环，直至解决问题，在每个步骤中，你都要挑选最佳属性，然后假设最佳属性按照我们希望的方式分割数据，执行所有的属性操作，然后将得到的决策结果传给下一个节点，以此类推，将训练样本分类到叶子中。
信息增益：信息增益只是用于捕捉通过挑选特定属性获取的信息量的数学方法，真正讨论的是在了解特定属性的值以后，数据集上设置的标签的随机性的降低，所以公式如下

Gain(S,A)=Entropy(S)−v∑​∣S∣∣Sv​∣​Entropy(Sv​)

S是要查看的训练样本的集合，A作为特征属性，是训练样本集的熵与标签有关

什么是熵？

测量随机性的一种方法。

熵的公式

Entropy(S=)−v∑​P(v)logp(v)

使用决策树的最终目的就是提高信息增益率

19.ID3偏差

归纳偏差
1.限定偏差
2.优选偏差：优选偏差会首选好分割靠近顶部的决策树，更偏向于为数据创建较好模型的决策树，而不是为数据创建交叉的决策树
偏向于更短的决策树而不是更长的决策树，所以计算时间也会更少

20.决策树的连续属性

如果是连续的变量，那么需要检查的数据就会很多，原则上是无限的，也可以看到训练集，然后直接根据训练集上的数值范围进行查找，甚至进行二分查找都是可以的。

21.决策树的其他注意事项

算法什么时候停止？
当所有的样本都落入点位的时候就会结束算法，但是有噪音的时候算法就会进行无限循环
在决策树的过程中出现过拟合往往是因为树过于庞大并且枝丫过多，违反了奥卡姆剃刀定律，所以使用交叉验证的方法可以减少过拟合的程度
或者保留一个验证集来求出误差

22.决策树的回归

对于回归问题，决策树如何实现输出的连续性而不是离散型

23.决策树小结

1.决策树的表示
2.自顶向下算法ID3
3.可表达性
4.ID3的偏差
5.信息增益，找到最佳属性
6.过拟合问题

%23%23%23%23%201.%E7%9B%91%E7%9D%A3%E5%AD%A6%E4%B9%A0%0A%E6%88%91%E4%BB%AC%E5%90%91%E7%B3%BB%E7%BB%9F%E4%B8%AD%E8%BE%93%E5%87%BA%E6%A0%B7%E6%9C%AC%EF%BC%8C%E5%B9%B6%E4%B8%94%E5%91%8A%E8%AF%89%E7%B3%BB%E7%BB%9F%E6%A0%B7%E6%9C%AC%E6%A0%87%E7%AD%BE(target)%EF%BC%8C%E7%B3%BB%E7%BB%9F%E7%94%A8%E6%88%91%E4%BB%AC%E7%BB%99%E5%87%BA%E7%9A%84%E4%B8%8D%E5%90%8C%E6%A0%B7%E6%9C%AC%E7%9A%84%E6%88%90%E5%8A%9F%E4%B8%8E%E5%A4%B1%E8%B4%A5%E7%9A%84%E4%BF%A1%E6%81%AF%EF%BC%8C%E6%9E%84%E5%BB%BA%E5%AE%83%E5%AF%B9%E6%88%90%E5%8A%9F%E6%88%96%E5%A4%B1%E8%B4%A5%E7%9A%84%E5%9B%A0%E7%B4%A0%E7%9A%84%E7%90%86%E8%A7%A3%E3%80%82%0A%0A%23%23%23%23%202.%E5%88%86%E7%B1%BB%E4%B8%8E%E5%9B%9E%E5%BD%92%E4%B9%8B%E9%97%B4%E7%9A%84%E5%8C%BA%E5%88%AB%0A%E5%88%86%E7%B1%BB%E7%9F%A5%E8%AF%86%E4%B8%80%E4%B8%AA%E8%8E%B7%E5%8F%96%E6%9F%90%E7%B1%BB%E8%BE%93%E5%85%A5%E7%9A%84%E8%BF%87%E7%A8%8B%EF%BC%8C%E7%84%B6%E5%90%8E%E5%B0%86%E5%AE%83(x)%E6%98%A0%E5%B0%84%E5%88%B0%E6%9F%90%E4%BA%9B%E7%A6%BB%E6%95%A3%E6%A0%87%E7%AD%BE%EF%BC%88T%20or%20F%EF%BC%89%0A**%E5%88%86%E7%B1%BB%E4%B8%8E%E5%9B%9E%E5%BD%92%E7%9A%84%E5%8C%BA%E5%88%AB**%0A%20**%E5%88%86%E7%B1%BB%E6%98%AF%E4%BB%8E%E6%9F%90%E4%B8%AD%E8%BE%93%E5%85%A5%E6%98%A0%E5%B0%84%E5%88%B0%E6%9F%90%E4%BA%9B%E5%8F%AF%E8%83%BD%E4%BB%A3%E8%A1%A8%E6%A6%82%E5%BF%B5%E7%9A%84%E5%B0%91%E9%87%8F%E7%A6%BB%E6%95%A3%E5%80%BC**%0A%20**%E5%9B%9E%E5%BD%92%E6%98%AF%E4%BB%8E%E6%9F%90%E7%A7%8D%E8%BE%93%E5%85%A5%E7%A9%BA%E9%97%B4%E6%98%A0%E5%B0%84%E5%88%B0%E6%9F%90%E4%B8%AA%E5%AE%9E%E9%99%85%E6%95%B0%E7%BB%84**%0A%20**%E5%88%86%E7%B1%BB%E7%9A%84%E8%BE%93%E5%87%BA%E6%9C%80%E7%BB%88%E6%98%AF%E5%87%A0%E4%B8%AA%E5%9B%BA%E5%AE%9A%E7%9A%84%E7%A6%BB%E6%95%A3%E5%80%BC**%0A%20**%E5%9B%9E%E5%BD%92%E7%9A%84%E8%BE%93%E5%87%BA%E6%9C%80%E7%BB%88%E6%98%AF%E8%BF%9E%E7%BB%AD%E7%9A%84%E5%80%BC%E5%9F%9F**%0A%0A%23%23%23%23%203.%E5%88%86%E7%B1%BB%E5%AD%A6%E4%B9%A0%0A%E6%9C%AF%E8%AF%AD%E8%A7%A3%E9%87%8A%0A1.instances(%E5%AE%9E%E4%BE%8B)%20%E5%B0%B1%E6%98%AF%E5%80%BC%E5%92%8C%E5%B1%9E%E6%80%A7%E7%9A%84%E5%90%91%E9%87%8F%E8%BE%93%E5%85%A5%0A2.concept(%E5%87%BD%E6%95%B0)%20function%20%E5%87%BD%E6%95%B0%E5%B0%86%E8%BE%93%E5%85%A5%E6%98%A0%E5%B0%84%E5%88%B0%E8%BE%93%E5%87%BA%EF%BC%8C%E6%8F%90%E5%8F%96%E5%AE%9E%E4%BE%8B%0A3.target(%E7%9B%AE%E6%A0%87)%20%E5%AE%9E%E9%99%85%E7%9A%84%E8%BE%93%E5%87%BA%E7%AD%94%E6%A1%88%0A4.hypothesis(%E5%81%87%E8%AE%BE)%E8%80%83%E8%99%91%E7%9A%84%E6%89%80%E6%9C%89%E6%A6%82%E5%BF%B5%E7%9A%84%E9%9B%86%E5%90%88%EF%BC%8C%E5%B0%B1%E6%98%AF%E6%89%80%E6%9C%89%E5%8F%AF%E8%83%BD%E7%9A%84%E5%87%BD%E6%95%B0%0A5.sample(%E6%A0%B7%E6%9C%AC)%E8%AE%AD%E7%BB%83%E9%9B%86%E5%90%88%20%E6%89%80%E6%9C%89%E7%9A%84%E8%BE%93%E5%85%A5%E4%B8%8E%E5%AF%B9%E5%BA%94%E7%9A%84%E6%A0%87%E7%AD%BE%E9%9B%86%E5%90%88%E7%9A%84%E6%95%B0%E6%8D%AE%E9%9B%86%0A6.candidate(%E5%80%99%E9%80%89%E8%80%85)%20%E4%B8%80%E4%B8%AA%E4%BD%A0%E8%AE%A4%E4%B8%BA%E5%8F%AF%E8%83%BD%E4%BC%9A%E6%88%90%E4%B8%BA%E7%9B%AE%E6%A0%87%E7%9A%84%E5%80%BC%0A7.testing%20set(%E6%B5%8B%E8%AF%95%E9%9B%86)%E5%9C%A8%E6%B5%8B%E8%AF%95%E6%97%B6%EF%BC%8C%E7%94%A8%E6%B5%8B%E8%AF%95%E9%9B%86%E8%BF%9B%E8%A1%8C%E6%B5%8B%E8%AF%95%E7%94%B1%E5%80%99%E9%80%89%E8%80%85%E7%9A%84%E6%A6%82%E5%BF%B5%E5%88%A4%E6%96%AD%E5%85%B6%E6%98%AF%E5%90%A6%E6%AD%A3%E7%A1%AE%EF%BC%8C%E7%84%B6%E5%90%8E%E5%B0%86%E5%85%B6%E4%B8%8E%E6%B5%8B%E8%AF%95%E9%9B%86%E7%9A%84%E5%AE%9E%E9%99%85%E7%BB%93%E6%9E%9C%E8%BF%9B%E8%A1%8C%E6%AF%94%E8%BE%83%0A**%E6%B5%8B%E8%AF%95%E9%9B%86%E5%92%8C%E8%AE%AD%E7%BB%83%E9%9B%86%E4%B8%8D%E8%83%BD%E6%98%AF%E7%9B%B8%E5%90%8C%E7%9A%84%EF%BC%8C%E8%BF%99%E6%A0%B7%E5%B0%B1%E4%B8%8D%E8%83%BD%E8%A1%A8%E7%A4%BA%E5%87%BA%E6%A8%A1%E5%9E%8B%E7%9A%84%E6%B3%9B%E5%8C%96%E8%83%BD%E5%8A%9B**%0A%0A%23%23%23%23%204.%E8%A1%A8%E7%A4%BA%E6%B3%95%0A%E5%86%B3%E7%AD%96%E6%A0%91%E7%9A%84%E8%A1%A8%E7%A4%BA%E6%B3%95%EF%BC%9A%E5%8F%AA%E6%9C%89%E5%9C%A8%E4%BA%86%E8%A7%A3%E5%B9%B6%E5%88%86%E6%9E%90%E6%A0%B7%E6%9C%AC%E5%90%8E%EF%BC%8C%E6%88%91%E4%BB%AC%E6%89%8D%E8%83%BD%E6%80%9D%E8%80%83%E6%9F%A5%E6%89%BE%E6%88%96%E6%9E%84%E5%BB%BA%E5%86%B3%E7%AD%96%E6%A0%91%E7%9A%84%E7%AE%97%E6%B3%95%0A%0A%23%23%23%23%205.%E5%86%B3%E7%AD%96%E6%A0%91%E5%AD%A6%E4%B9%A0%0A1.%E6%8C%91%E9%80%89%E6%9C%80%E4%BD%B3%E5%B1%9E%E6%80%A7%0A2.%E6%A0%B9%E6%8D%AE%E5%9B%9E%E7%AD%94%E6%8C%91%E9%80%89%E6%9B%B4%E5%A4%9A%E5%B1%9E%E6%80%A7%0A3.%E8%B7%9F%E6%8D%AE%E8%B7%AF%E5%BE%84%E6%9F%A5%E6%89%BE%E6%9B%B4%E5%A4%9A%E7%9A%84%E5%B1%9E%E6%80%A7%E5%92%8C%E9%81%93%E8%B7%AF%0A4.%E6%89%BE%E5%88%B0%E6%9C%80%E7%BB%88%E7%9A%84%E8%BE%93%E5%87%BA%E7%BB%93%E6%9E%9C%0A%0A%23%23%23%23%2012.%E5%86%B3%E7%AD%96%E6%A0%91%E5%8F%AF%E8%A1%A8%E8%BE%BE%E6%80%A7%20AND%0A%E5%86%B3%E7%AD%96%E6%A0%91%E5%8F%AF%E4%BB%A5%E7%94%A8%E5%B8%83%E5%B0%94%E5%80%BC%E7%9A%84%E6%AD%A3%E5%90%A6%E8%A1%A8%E7%A4%BA%0A%60%60%60mermaid%0Agraph%20TD%0AA%7BA%7D%0AA%20--%3E%7CTrue%7C%20B%7BB%7D%0AA%20--%3E%7CFalse%7C%20F%5BFalse%5D%0AB%20--%3E%7CTrue%7C%20T%5BTrue%5D%0AB%20--%3E%7CFalse%7C%20F%5BFlase%5D%0A%60%60%60%0A%23%23%23%23%2018.ID3%E7%AE%97%E6%B3%95%0A%E4%BD%A0%E5%8F%AA%E9%9C%80%E8%A6%81%E4%B8%8D%E6%96%AD%E5%BE%AA%E7%8E%AF%EF%BC%8C%E7%9B%B4%E8%87%B3%E8%A7%A3%E5%86%B3%E9%97%AE%E9%A2%98%EF%BC%8C%E5%9C%A8%E6%AF%8F%E4%B8%AA%E6%AD%A5%E9%AA%A4%E4%B8%AD%EF%BC%8C%E4%BD%A0%E9%83%BD%E8%A6%81%E6%8C%91%E9%80%89%E6%9C%80%E4%BD%B3%E5%B1%9E%E6%80%A7%EF%BC%8C%E7%84%B6%E5%90%8E%E5%81%87%E8%AE%BE%E6%9C%80%E4%BD%B3%E5%B1%9E%E6%80%A7%E6%8C%89%E7%85%A7%E6%88%91%E4%BB%AC%E5%B8%8C%E6%9C%9B%E7%9A%84%E6%96%B9%E5%BC%8F%E5%88%86%E5%89%B2%E6%95%B0%E6%8D%AE%EF%BC%8C%E6%89%A7%E8%A1%8C%E6%89%80%E6%9C%89%E7%9A%84%E5%B1%9E%E6%80%A7%E6%93%8D%E4%BD%9C%EF%BC%8C%E7%84%B6%E5%90%8E%E5%B0%86%E5%BE%97%E5%88%B0%E7%9A%84%E5%86%B3%E7%AD%96%E7%BB%93%E6%9E%9C%E4%BC%A0%E7%BB%99%E4%B8%8B%E4%B8%80%E4%B8%AA%E8%8A%82%E7%82%B9%EF%BC%8C%E4%BB%A5%E6%AD%A4%E7%B1%BB%E6%8E%A8%EF%BC%8C%E5%B0%86%E8%AE%AD%E7%BB%83%E6%A0%B7%E6%9C%AC%E5%88%86%E7%B1%BB%E5%88%B0%E5%8F%B6%E5%AD%90%E4%B8%AD%E3%80%82%0A**%E4%BF%A1%E6%81%AF%E5%A2%9E%E7%9B%8A**%EF%BC%9A%E4%BF%A1%E6%81%AF%E5%A2%9E%E7%9B%8A%E5%8F%AA%E6%98%AF%E7%94%A8%E4%BA%8E%E6%8D%95%E6%8D%89%E9%80%9A%E8%BF%87%E6%8C%91%E9%80%89%E7%89%B9%E5%AE%9A%E5%B1%9E%E6%80%A7%E8%8E%B7%E5%8F%96%E7%9A%84%E4%BF%A1%E6%81%AF%E9%87%8F%E7%9A%84%E6%95%B0%E5%AD%A6%E6%96%B9%E6%B3%95%EF%BC%8C%E7%9C%9F%E6%AD%A3%E8%AE%A8%E8%AE%BA%E7%9A%84%E6%98%AF%E5%9C%A8%E4%BA%86%E8%A7%A3%E7%89%B9%E5%AE%9A%E5%B1%9E%E6%80%A7%E7%9A%84%E5%80%BC%E4%BB%A5%E5%90%8E%EF%BC%8C%E6%95%B0%E6%8D%AE%E9%9B%86%E4%B8%8A%E8%AE%BE%E7%BD%AE%E7%9A%84%E6%A0%87%E7%AD%BE%E7%9A%84%E9%9A%8F%E6%9C%BA%E6%80%A7%E7%9A%84%E9%99%8D%E4%BD%8E%EF%BC%8C%E6%89%80%E4%BB%A5%E5%85%AC%E5%BC%8F%E5%A6%82%E4%B8%8B%0A%24%24Gain(S%2CA)%3DEntropy(S)-%5Csum_%7Bv%7D%5Cfrac%7B%7CS_v%7C%7D%7B%7CS%7C%7DEntropy(S_v)%24%24%0AS%E6%98%AF%E8%A6%81%E6%9F%A5%E7%9C%8B%E7%9A%84%E8%AE%AD%E7%BB%83%E6%A0%B7%E6%9C%AC%E7%9A%84%E9%9B%86%E5%90%88%EF%BC%8CA%E4%BD%9C%E4%B8%BA%E7%89%B9%E5%BE%81%E5%B1%9E%E6%80%A7%EF%BC%8C%E6%98%AF%E8%AE%AD%E7%BB%83%E6%A0%B7%E6%9C%AC%E9%9B%86%E7%9A%84%E7%86%B5%E4%B8%8E%E6%A0%87%E7%AD%BE%E6%9C%89%E5%85%B3%0A%60%60%60%0A%E4%BB%80%E4%B9%88%E6%98%AF%E7%86%B5%EF%BC%9F%0A%E6%B5%8B%E9%87%8F%E9%9A%8F%E6%9C%BA%E6%80%A7%E7%9A%84%E4%B8%80%E7%A7%8D%E6%96%B9%E6%B3%95%E3%80%82%0A%60%60%60%0A**%E7%86%B5%E7%9A%84%E5%85%AC%E5%BC%8F**%0A%24%24Entropy(S%3D)-%5Csum_%7Bv%7DP(v)logp(v)%24%24%0A**%E4%BD%BF%E7%94%A8%E5%86%B3%E7%AD%96%E6%A0%91%E7%9A%84%E6%9C%80%E7%BB%88%E7%9B%AE%E7%9A%84%E5%B0%B1%E6%98%AF%E6%8F%90%E9%AB%98%E4%BF%A1%E6%81%AF%E5%A2%9E%E7%9B%8A%E7%8E%87**%0A%0A%23%23%23%23%2019.ID3%E5%81%8F%E5%B7%AE%0A**%E5%BD%92%E7%BA%B3%E5%81%8F%E5%B7%AE**%0A1.%E9%99%90%E5%AE%9A%E5%81%8F%E5%B7%AE%0A2.%E4%BC%98%E9%80%89%E5%81%8F%E5%B7%AE%EF%BC%9A%E4%BC%98%E9%80%89%E5%81%8F%E5%B7%AE%E4%BC%9A%E9%A6%96%E9%80%89%E5%A5%BD%E5%88%86%E5%89%B2%E9%9D%A0%E8%BF%91%E9%A1%B6%E9%83%A8%E7%9A%84%E5%86%B3%E7%AD%96%E6%A0%91%EF%BC%8C%E6%9B%B4%E5%81%8F%E5%90%91%E4%BA%8E%E4%B8%BA%E6%95%B0%E6%8D%AE%E5%88%9B%E5%BB%BA%E8%BE%83%E5%A5%BD%E6%A8%A1%E5%9E%8B%E7%9A%84%E5%86%B3%E7%AD%96%E6%A0%91%EF%BC%8C%E8%80%8C%E4%B8%8D%E6%98%AF%E4%B8%BA%E6%95%B0%E6%8D%AE%E5%88%9B%E5%BB%BA%E4%BA%A4%E5%8F%89%E7%9A%84%E5%86%B3%E7%AD%96%E6%A0%91%0A%E5%81%8F%E5%90%91%E4%BA%8E%E6%9B%B4%E7%9F%AD%E7%9A%84%E5%86%B3%E7%AD%96%E6%A0%91%E8%80%8C%E4%B8%8D%E6%98%AF%E6%9B%B4%E9%95%BF%E7%9A%84%E5%86%B3%E7%AD%96%E6%A0%91%EF%BC%8C%E6%89%80%E4%BB%A5%E8%AE%A1%E7%AE%97%E6%97%B6%E9%97%B4%E4%B9%9F%E4%BC%9A%E6%9B%B4%E5%B0%91%0A%0A%23%23%23%23%2020.%E5%86%B3%E7%AD%96%E6%A0%91%E7%9A%84%E8%BF%9E%E7%BB%AD%E5%B1%9E%E6%80%A7%0A%E5%A6%82%E6%9E%9C%E6%98%AF%E8%BF%9E%E7%BB%AD%E7%9A%84%E5%8F%98%E9%87%8F%EF%BC%8C%E9%82%A3%E4%B9%88%E9%9C%80%E8%A6%81%E6%A3%80%E6%9F%A5%E7%9A%84%E6%95%B0%E6%8D%AE%E5%B0%B1%E4%BC%9A%E5%BE%88%E5%A4%9A%EF%BC%8C%E5%8E%9F%E5%88%99%E4%B8%8A%E6%98%AF%E6%97%A0%E9%99%90%E7%9A%84%EF%BC%8C%E4%B9%9F%E5%8F%AF%E4%BB%A5%E7%9C%8B%E5%88%B0%E8%AE%AD%E7%BB%83%E9%9B%86%EF%BC%8C%E7%84%B6%E5%90%8E%E7%9B%B4%E6%8E%A5%E6%A0%B9%E6%8D%AE%E8%AE%AD%E7%BB%83%E9%9B%86%E4%B8%8A%E7%9A%84%E6%95%B0%E5%80%BC%E8%8C%83%E5%9B%B4%E8%BF%9B%E8%A1%8C%E6%9F%A5%E6%89%BE%EF%BC%8C%E7%94%9A%E8%87%B3%E8%BF%9B%E8%A1%8C%E4%BA%8C%E5%88%86%E6%9F%A5%E6%89%BE%E9%83%BD%E6%98%AF%E5%8F%AF%E4%BB%A5%E7%9A%84%E3%80%82%0A%0A%23%23%23%23%2021.%E5%86%B3%E7%AD%96%E6%A0%91%E7%9A%84%E5%85%B6%E4%BB%96%E6%B3%A8%E6%84%8F%E4%BA%8B%E9%A1%B9%0A%E7%AE%97%E6%B3%95%E4%BB%80%E4%B9%88%E6%97%B6%E5%80%99%E5%81%9C%E6%AD%A2%EF%BC%9F%0A%E5%BD%93%E6%89%80%E6%9C%89%E7%9A%84%E6%A0%B7%E6%9C%AC%E9%83%BD%E8%90%BD%E5%85%A5%E7%82%B9%E4%BD%8D%E7%9A%84%E6%97%B6%E5%80%99%E5%B0%B1%E4%BC%9A%E7%BB%93%E6%9D%9F%E7%AE%97%E6%B3%95%EF%BC%8C%E4%BD%86%E6%98%AF%E6%9C%89%E5%99%AA%E9%9F%B3%E7%9A%84%E6%97%B6%E5%80%99%E7%AE%97%E6%B3%95%E5%B0%B1%E4%BC%9A%E8%BF%9B%E8%A1%8C%E6%97%A0%E9%99%90%E5%BE%AA%E7%8E%AF%0A%E5%9C%A8%E5%86%B3%E7%AD%96%E6%A0%91%E7%9A%84%E8%BF%87%E7%A8%8B%E4%B8%AD%E5%87%BA%E7%8E%B0%E8%BF%87%E6%8B%9F%E5%90%88%E5%BE%80%E5%BE%80%E6%98%AF%E5%9B%A0%E4%B8%BA%E6%A0%91%E8%BF%87%E4%BA%8E%E5%BA%9E%E5%A4%A7%E5%B9%B6%E4%B8%94%E6%9E%9D%E4%B8%AB%E8%BF%87%E5%A4%9A%EF%BC%8C%E8%BF%9D%E5%8F%8D%E4%BA%86%E5%A5%A5%E5%8D%A1%E5%A7%86%E5%89%83%E5%88%80%E5%AE%9A%E5%BE%8B%EF%BC%8C%E6%89%80%E4%BB%A5%E4%BD%BF%E7%94%A8%E4%BA%A4%E5%8F%89%E9%AA%8C%E8%AF%81%E7%9A%84%E6%96%B9%E6%B3%95%E5%8F%AF%E4%BB%A5%E5%87%8F%E5%B0%91%E8%BF%87%E6%8B%9F%E5%90%88%E7%9A%84%E7%A8%8B%E5%BA%A6%0A%E6%88%96%E8%80%85%E4%BF%9D%E7%95%99%E4%B8%80%E4%B8%AA%E9%AA%8C%E8%AF%81%E9%9B%86%E6%9D%A5%E6%B1%82%E5%87%BA%E8%AF%AF%E5%B7%AE%0A%0A%23%23%23%23%2022.%E5%86%B3%E7%AD%96%E6%A0%91%E7%9A%84%E5%9B%9E%E5%BD%92%0A%E5%AF%B9%E4%BA%8E%E5%9B%9E%E5%BD%92%E9%97%AE%E9%A2%98%EF%BC%8C%E5%86%B3%E7%AD%96%E6%A0%91%E5%A6%82%E4%BD%95%E5%AE%9E%E7%8E%B0%E8%BE%93%E5%87%BA%E7%9A%84%E8%BF%9E%E7%BB%AD%E6%80%A7%E8%80%8C%E4%B8%8D%E6%98%AF%E7%A6%BB%E6%95%A3%E5%9E%8B%0A%0A%23%23%23%23%2023.%E5%86%B3%E7%AD%96%E6%A0%91%E5%B0%8F%E7%BB%93%0A1.%E5%86%B3%E7%AD%96%E6%A0%91%E7%9A%84%E8%A1%A8%E7%A4%BA%0A2.%E8%87%AA%E9%A1%B6%E5%90%91%E4%B8%8B%E7%AE%97%E6%B3%95ID3%0A3.%E5%8F%AF%E8%A1%A8%E8%BE%BE%E6%80%A7%0A4.ID3%E7%9A%84%E5%81%8F%E5%B7%AE%0A5.%E4%BF%A1%E6%81%AF%E5%A2%9E%E7%9B%8A%EF%BC%8C%E6%89%BE%E5%88%B0%E6%9C%80%E4%BD%B3%E5%B1%9E%E6%80%A7%0A6.%E8%BF%87%E6%8B%9F%E5%90%88%E9%97%AE%E9%A2%98

【udacity】机器学习-决策树的更多相关文章

  1. DNS通道检测 国内学术界研究情况——研究方法：基于特征或者流量，使用机器学习决策树分类算法居多

    http://xuewen.cnki.net/DownloadArticle.aspx?filename=BMKJ201104017&dbtype=CJFD<浅析基于DNS协议的隐蔽通道 ...

  2. 机器学习-决策树 Decision Tree

    咱们正式进入了机器学习的模型的部分,虽然现在最火的的机器学习方面的库是Tensorflow, 但是这里还是先简单介绍一下另一个数据处理方面很火的库叫做sklearn.其实咱们在前面已经介绍了一点点sk ...

  3. 机器学习决策树ID3算法，手把手教你用Python实现

    本文始发于个人公众号:TechFlow,原创不易,求个关注 今天是机器学习专题的第21篇文章,我们一起来看一个新的模型--决策树. 决策树的定义 决策树是我本人非常喜欢的机器学习模型,非常直观容易理解 ...

  4. 深入了解机器学习决策树模型——C4.5算法

    本文始发于个人公众号:TechFlow,原创不易,求个关注 今天是机器学习专题的第22篇文章,我们继续决策树的话题. 上一篇文章当中介绍了一种最简单构造决策树的方法--ID3算法,也就是每次选择一个特 ...

  5. 机器学习 —— 决策树及其集成算法(Bagging、随机森林、Boosting)

    本文为senlie原创,转载请保留此地址:http://www.cnblogs.com/senlie/ 决策树--------------------------------------------- ...

  6. python 机器学习 决策树

    决策树(Decision Trees ,DTs)是一种无监督的学习方法,用于分类和回归. 优点:计算复杂度不高,输出结果易于理解,对中间值缺失不敏感,可以处理不相关的特征数据缺点:可能会产生过度匹配的 ...

  7. 机器学习——决策树，DecisionTreeClassifier参数详解，决策树可视化查看树结构

    0.决策树 决策树是一种树型结构,其中每个内部节结点表示在一个属性上的测试,每一个分支代表一个测试输出,每个叶结点代表一种类别. 决策树学习是以实例为基础的归纳学习 决策树学习采用的是自顶向下的递归方 ...

  8. spark 机器学习 决策树 原理(一)

    1.什么是决策树 决策树(decision tree)是一个树结构(可以是二叉树或者非二叉树).决策树分为分类树和回归树两种,分类树对离散变量做决策树,回归树对连续变量做决策树. 其中每个非叶节点表示 ...

  9. 机器学习-决策树之ID3算法

    概述 决策树(Decision Tree)是一种非参数的有监督学习方法,它是一种树形结构,所以叫决策树.它能够从一系列有特征和标签的数据中总结出决策规则,并用树状图的结构来呈现这些规则,以解决分类和回 ...

随机推荐

  1. （31）Spring Boot导入XML配置【从零开始学Spring Boot】

    [来也匆匆,去也匆匆,在此留下您的脚印吧,转发点赞评论: 您的认可是我最大的动力,感谢您的支持] Spring Boot理念就是零配置编程,但是如果绝对需要使用XML的配置,我们建议您仍旧从一个@Co ...

  2. linux 7.2 下安装maven

    由于现有项目采用maven打包所以需要安装maven 1.创建目录 mkdir /maven cd /maven 2.下载解压maven,这里选择maven版本为3.5.3 wget http://m ...

  3. 【JS】垃圾回收和块级作用域

    垃圾回收: JavaScript中,开发者不必关心内存分配和回收的问题.这和Java语言相似.有一个垃圾自己主动回收机制.那么JavaScript内部到底是如何回收垃圾的呢? 使用标记回收法:就是说. ...

  4. arm32位固定指令中怎么容纳32位变量

    在ARM指令集汇编码中.32位有效马上数是通过______偶数位而间接得到的 A.循环左移 B.循环右移. C.逻辑左移. D.逻辑右移 答案为循环左移.为什么?还有最好解释一下逻辑移动和循环移动的概 ...

  5. Django 介绍、安装配置、基本使用、Django 用户注冊样例

    Django介绍         Django 是由 Python 开发的一个免费的开源站点框架.能够用于高速搭建高性能.优雅的站点.              DjangoMTV 的思想项目架构图 ...

  6. C C++每个头文件的功能说

    C/C++每个头文件的功能说明 传统 C++ #include <assert.h> //设定插入点 #include <ctype.h> //字符处理 #include &l ...

  7. js实现原生Ajax的封装及ajax原理详解

    原理及概念 AJAX即“Asynchronous Javascript And XML”(异步JavaScript和XML),是一种用于创建快速动态网页的技术. 动态网页:是指可以通过服务器语言结合数 ...

  8. c27---typedef

    // // main.c // typedef #include <stdio.h> /* typedef可以给一个已知的数据类型起别名. typedef 原有的数据类型 别名; 注意: ...

  9. CH Round #46A 磁力块

    还是一道好题的 对于一个磁石是否被吸引,有两个关键字:距离和质量.(二维偏序??) 好像是很厉害的分块姿势,先按第一关键字排序,在块中按第二关键字排 进行bfs,对于当前磁石,有1~k-1个块是第一关 ...

  10. 国内物联网平台初探（五） ——机智云IoT物联网云服务平台及智能硬件自助开发平台

    平台定位 机智云平台是致力于物联网.智能硬件云服务的开放平台.平台提供了从定义产品.设备端开发调试.应用开发.产测.运营管理等覆盖智能硬件接入到运营管理全生命周期服务的能力. 机智云平台为开发者提供了 ...