决策树是一种基本的分类和回归方法,决策树模型呈树形结构,在分类问题中表示基于特征 对实例进行分类的过程,可以认为是 if-them 规则的集合,也可以认为是定义在特征空间与 类空间上的条件概率分布,主要优点是模型具有可读性,分类速度快。学习时利用训练数据 ,根据损失函数最小化的原则建立决策树模型;预测时,对新的数据利用决策树模型进行分 类。决策树学习包含 3 个步骤:特征选择,决策树的生成和决策树的修剪。决策树的思想来 自于 ID3 算法、C4.5算法(Quinlan,1986,1993)和 CART 算法(Breiman,1984)。

待填坑。。。

决策树模型

特征选择

决策树的生成

决策树的剪枝

分类与回归树(CART)算法模型