决策树法

1、特征选择 特征选择决定了使用哪些特征来做判断。在训练数据集中，每个样本的属性可能有很多个，不同属性的作用有大有小。因而特征选择的作用就是筛选出跟分类结果相关性较高的特征，也就是分类能力较强的特征。在特征选择中通常使用的准则是：信息增益。 2、决策树生成 选择好特征后，就从根节点触发，对节点计算所有特征的信息增益，选择信息增益最大的特征作为节点特征，根据该特征的不同取值建立子节点；对每个子节点使用相同的方式生成新的子节点，直到信息增益很小或者没有特征可以选择为止。 3、决策树剪枝 剪枝的主要目的是对抗「过拟合」，通过主动去掉部分分支来降低过拟合的风险。 【简介】 决策树是一种解决分类问题的算法，决策树算法采用树形结构，使用层层推理来实现最终的分类。

决策树法优点：决策树列出了决策问题的全部可行方案和可能出现的各种自然状态，以及各可行方法在各种不同状态下的期望值。能直观地显示整个决策问题在时间和决策顺序上不同阶段的决策过程。在应用于复杂的多阶段决策时，阶段明显，层次清楚，便于决策机构集体研究，可以周密地思考各种因素，有利于作出正确的决策。决策树法缺点：使用范围有限，无法适用于一些不能用数量表示的决策；对各种方案的出现概率的确定有时主观性较大，可能导致决策失误；
决策树优缺点
优点:
(1)速度快: 计算量相对较小, 且容易转化成分类规则. 只要沿着树根向下一直走到叶, 沿途的分裂条件就能够唯一确定一条分类的谓词.
(2)准确性高: 挖掘出来的分类规则准确性高, 便于理解, 决策树可以清晰的显示哪些字段比较重要, 即可以生成可以理解的规则.
(3)可以处理连续和种类字段
(4)不需要任何领域知识和参数假设
(5)适合高维数据
缺点:
(1)对于各类别样本数量不一致的数据, 信息增益偏向于那些更多数值的特征
(2)容易过拟合
(3)忽略属性之间的相关性

亲亲[开心]，您好，很高兴为您解答。用决策树法选择决策方案的基本步骤：从左到右顺序画一个决策树，这是一个决策问题的重新分析过程。从右到左计算每个方案的期望值，并将结果写在对应的方案节点上方。的期望值是沿着决策树的相反方向从右到左计算的。比较各方案的期望值，砍掉期望值低的方案（即次优方案），留下最后一个方案作为最佳方案。【摘要】
怎样用决策树法选择决策方案【提问】
亲亲[开心]，您好，很高兴为您解答。用决策树法选择决策方案的基本步骤：从左到右顺序画一个决策树，这是一个决策问题的重新分析过程。从右到左计算每个方案的期望值，并将结果写在对应的方案节点上方。的期望值是沿着决策树的相反方向从右到左计算的。比较各方案的期望值，砍掉期望值低的方案（即次优方案），留下最后一个方案作为最佳方案。【回答】
特征选择：特征选择决定了使用哪些特征进行判断。在训练数据集中，每个样本可能有很多属性，不同的属性有不同的作用。因此，特征选择的作用就是筛选出与分类结果相关性高的特征，即分类能力强的特征。特征选择常用的准则是：信息增益。决策树的生成：选择一个特征后，从根节点触发，为每个节点计算所有特征的信息增益，选择信息增益最大的特征作为节点特征，根据该特征的不同值建立子节点；对每个子节点使用相同的方法来生成新的子节点，直到信息增益很小或者没有特征可供选择。决策树的剪枝：剪枝的主要目的是通过主动去除部分分支来对抗“过拟合”，降低过拟合的风险。决策树方法的优点：1.决策树列出了决策问题的所有可行解和各种可能的自然状态，以及各种状态下每个可行方法的期望值。2.可以直观地展示整个决策问题在不同阶段的时间和决策顺序的决策过程。3.应用于复杂的多阶段决策时，阶段明显，层次清晰，便于决策主体集体研究，能够慎重考虑各种因素，有利于做出正确决策。【回答】