决策树(Decision Tree)

决策树,是有监督学习的一种算法,并且是一种基本的分类和回归的方法,也就是说决策树有两种:分类树和回归树。这里我们主要讨论分类树。 1.一个例子理解决策树的原理: 你是否玩过二十个问题的小游戏,游戏的规则很简单,参与游戏的一方在脑海中想象某一事物,其他参与者向他提问问题,只允许提问20个问题,问题的答案也只能是对或者错。问问题的人通过推断分解,逐步缩小待猜测事物的范围。 决策树的原理与上述的 二十个问题 的游戏类是,都只通过用户输入的一系列数据,然后找出游戏的答案。 2. 决策树相较于K近邻的优势 K近邻可以完成很多的分类任务,但是他最大的缺点就是无法给出数据的内在含义,决策树的主要优势救赎在于