决策树构成的基本要素.doc

决策：决策，指决定的策略或办法是人们为各种事件出主意、做决定 的过程它是一个复杂的思维操作过程，是信息搜集、加工，最后作 出判断、得出结论的过程语出《韩非子•孤愤》："智者决策於愚 人，贤士程行於不肖，则贤智之士羞而人主之论悖矣"决策树:决策树是在已知各种情况发生概率的基础上，通过构成决策树来 求取净现值的期望值大于等于零的概率，评价项目风险，判断其可行 性的决策分析方法，是直观运用概率分析的一种图解法由于这种决 策分支画成图形很像一棵树的枝干，故称决策树在机器学习中，决 策树是一个预测模型，他代表的是对象属性与对象值之间的一种映射 关系Entropy=系统的凌舌味呈度，使用算法ID3.C4.5和C5.0生成 树算法使用牆这一度量是基于信息学理论中牆的概念决策树是一种树形结构，其中每个内部节点表示一个属性上的测 试,每个分支代表一个测试输出,每个叶节点代表一种类别分类树是一种十分常用的分类方法他是一种监督学习，所谓监 督学习就是给定一堆样本，每个样本都有一组属性和一个类别，这些 类别是事先确定的，那么通过学习得到一个分类器，这个分类器能够 对新出现的对象给出正确的分类这样的机器学习就被称之为监督学 习。

组成：决策点，是对几种可能方案的选择,即最后选择的最佳方案如 果决策属于多级决策,则决策树的中间可以有多个决策点，以决策树 根部的决策点为最终决策方案状态节点，代表备选方案的经济效果（期望值），通过各状态节 点的经济效果的对比,按照一定的决策标准就可以选出最佳方案由 状态节点引出的分支称为概率枝，概率枝的数目表示可能出现的自然 状态数目每个分枝上要注明该状态出现的概率结果节点，将每个方案在各种自然状态下取得的损益值标注于结 果节点的右端画法：机器学习中，决策树是一个预测模型；他代表的是对象属性与对 象值之间的一种映射关系树中每个节点表示某个对象，而每个分叉 路径则代表的某个可能的属性值，而每个叶结点则对应从根节点到该 叶节点所经历的路径所表示的对象的值决策树仅有单一输出，若欲 有复数输出，可以建立独立的决策树以处理不同输出数据挖掘中决 策树是一种经常要用到的技术，可以用于分析数据，同样也可以用来 作预测从数据产生决策树的机器学习技术叫做决策树学习，通俗说就是 决策树—个决策树包含三种类型的节点：决策节点：通常用矩形框来表示机会节点：通常用圆圈来表示终结点：通常用三角形来表示决策树学习也是资料探勘中一个普通的方法。

在这里，每个决策 树都表述了一种树型结构，它由它的分支来对该类型的对象依靠属性 进行分类每个决策树可以依靠对源数据库的分割进行数据测试这 个过程可以递归式的对树进行修剪当不能再进行分割或一个单独的 类可以被应用于某一分支时，递归过程就完成了另外，随机森林分 类器将许多决策树结合起来以提升分类的正确率决策树同时也可以依靠计算条件概率来构造。