决策树学习

✍ dations ◷ 2025-09-18 04:51:01 #决策树,分类算法

统计学,数据挖掘和机器学习中的决策树训练,使用决策树作为预测模型来预测样本的类标。这种决策树也称作分类树或回归树。在这些树的结构里, 叶子节点给出类标而内部节点代表某个属性。

在决策分析中,一棵决策树可以明确地表达决策的过程。在数据挖掘中,一棵决策树表达的是数据而不是决策。本页的决策树是数据挖掘中的决策树。

在数据挖掘中决策树训练是一个常用的方法。目标是创建一个模型来预测样本的目标值。例如右图。每个 内部节点 对应于一个输入属性,子节点代表父节点的属性的可能取值。每个叶子节点代表输入属性得到的可能输出值。

一棵树的训练过程为:根据一个指标,分裂训练集为几个子集。这个过程不断的在产生的子集里重复递归进行,即递归分割。当一个训练子集的类标都相同时 递归停止。这种 (TDITD) 是 贪心算法的一种, 也是目前为止最为常用的一种训练方法,但不是唯一的方法。


数据以如下方式表示:

其中Y是目标值,向量x由这些属性构成, x1, x2, x3 等等,用来得到目标值。

在数据挖掘中,决策树主要有两种类型:

术语分类和回归树 (CART) 包含了上述两种决策树, 最先由Breiman 等提出. 分类树和回归树有些共同点和不同点—例如处理在何处分裂的问题。

有些的方法产生多棵树:

还有其他很多决策树算法,常见的有:

构建决策树时通常采用自上而下的方法,在每一步选择一个最好的属性来分裂。 "最好" 的定义是使得子节点中的训练集尽量的纯。不同的算法使用不同的指标来定义"最好"。本部分介绍一些最常见的指标。

在CART算法中, 基尼不纯度表示一个随机选中的样本在子集中被分错的可能性。基尼不纯度为这个样本被选中的概率乘以它被分错的概率。当一个节点中所有样本都是一个类时,基尼不纯度为零。

假设y的可能取值为 J {\displaystyle J} (sunny, overcast, rainy), (hot, mild, cool), (high, normal), and (true, false), 目标值(yes, no), 总共14个数据点。为建造决策树,需要比较4棵决策树的信息增益,每棵决策树用一种属性做划分。信息增益最高的划分作为第一次划分,并在每个子节点继续此过程,直至其信息增益为0。

使用属性做划分时,产生2个子节点:值为真与为假。当前数据集,6个数据点的值为真,其中3个点的值为真,3个点的值为假;其余8个数据点的为假,其中6个点的值为真,2个点的值为假。 =true的子节点的信息熵计算为:

=false的子节点的信息熵计算为:

这个划分(使用属性)的信息熵是两个子节点信息熵的加权和:

为计算使用属性的信息增益,必须先计算出最初(未划分)的数据集的信息熵,数据集的有9个yes与5个no:

使用属性的信息增益是:

与其他的数据挖掘算法相比,决策树有许多优点:

在决策树中, 从根节点到叶节点的路径采用汇合或。而在决策图中, 可以采用 最小消息长度 (MML)来汇合两条或多条路径。

演化算法可以用来避免局部最优的问题

相关

  • 人脑人脑分为左右两个大脑半球,二者由神经纤维构成的胼胝体相连。人脑和其他哺乳动物的脑结构相似,但是容量却很不寻常,和人类相同体型的哺乳动物的比较,人的大脑要大得多,智慧的当然
  • 近音近音(英语:approximants; approximant consonant,前称无擦通音)在语音学中是指一类介乎元音和辅音的声音。发近音时,两个发音部位彼此靠拢,组成声腔并且收窄,但仍然有足够空间予气
  • 生物分类生物分类学(英语:biotaxonomy)通常直接称分类学(英语:taxonomy;法语:taxonomie;西班牙语:taxonomía),是一门研究生物类群间的异同程度,阐明生物间的亲缘关系、进化过程和发展规律的科学
  • 宝来溪宝来溪,位于台湾南部,属于高屏溪水系,为荖浓溪第二大支流,河长28公里,流域面积133平方公里,分布于高雄市六龟区东北端及桃源区中南部。主流发源于卑南主山北侧,先向北复转西北流,至
  • 辛德勒的名单《辛德勒的名单》(英语:Schindler's List)是一部1993年上映的美国电影,它讲述了一个德国商人奥斯卡·辛德勒拯救犹太人的故事。这些被救的人大都是波兰犹太人在二战时期的逃难者
  • 电缆电缆,是由两条或更多的导线粘合、扭曲或编织在一起形成的单一的连接两个设备传输电信号的组件。电缆的用途广泛并且每个用途都需特制,它的功能大至传输电能、电信号和实现电磁
  • 柯劭愍柯劭忞(1850年-1933年8月31日),字凤孙,晚号蓼园,山东省莱州府胶州人。清末民初学者、著名史学家。柯劭忞祖父柯培元,曾任葛玛兰通判(今台湾省宜兰县),文武兼备,以诗为长,有《柯易堂诗选
  • 刘姝威刘姝威(1952年-),黑龙江哈尔滨人,中央财经大学中国企业研究中心主任,研究员。2001年,以一篇600字的短文《应立即停止对蓝田股份发放贷款》,提出对蓝田股份提出了质疑,并最终导致蓝田
  • 巴洛克音乐巴洛克音乐指欧洲在文艺复兴之后开始兴起,且在古典主义音乐形成之前所流行的音乐类型,延续期间大约从1600年到1750年之间的150年。巴洛克(Baroque)词语来源说法不一。德国文学批
  • 菩萨菩萨具名菩提萨埵(梵语:बोधिसत्त्व,bodhisattva;巴利语:बोधिसत्त,bodhisatta),意译为道心众生、觉有情、开士等。菩提是佛道,萨埵是众生,众生发心求入佛道名菩萨。