决策树剪枝

✍ dations ◷ 2025-07-11 19:19:34 #决策树剪枝

剪枝(英语:pruning)是机器学习与搜索算法当中通过移除决策树中分辨能力较弱的节点而减小决策树大小的方法。剪枝降低了模型的复杂度,因此能够降低过拟合风险,从而降低泛化误差。

在决策树算法中,决策树过大会有过拟合的风险,从而在新样本上的泛化性能很差;决策树过小则无法从样本空间中获取重要的结构化信息。然而,由于很难判断新增一个额外的分裂结点能否显著降低误差,人们很难判断何时停止决策树的生长是恰当的。该问题被称为视界限制效应(英语:Horizon_effect)。一个通用的策略是让决策树一直生长,直到每个叶子结点都包含足够少量的样本,而后通过剪枝的方法,移除分辨能力较弱的结点。

剪枝过程应当在减小决策树大小的同时,保证交叉验证下的精度不降低。

相关

  • 理想国《理想国》(古希腊语:Πολιτεία;拉丁语:)又译作《国家篇》、《共和国》、《王制》,是古希腊哲学家柏拉图在大约公元前390年所写成的作品,主要谈及了正义、秩序和正义的人及
  • 亚麻荠属亚麻荠属(学名:)是十字花科下的一个属,为一年生或二年生草本植物。该属共有约10种,分布于地中海地区和欧洲。这个属的大多数物种很少被研究,除了亚麻荠(Camelina sativa),历史上被栽
  • 可儿郡可儿郡(日语:可児郡/かにぐん  */?)为岐阜县管辖的郡。人口20,157人、面积56.61 km²。(2005年)现管辖有以下1町。
  • 甲基膦甲基膦是最简单的有机磷化合物,化学式为CH3PH2,可简写为MePH2。它是具有恶臭气味的气体,可以凝结为无色液体。它可以由磷化物的甲基化反应制得:甲基膦具有伯膦类化合物(RPH2)的通
  • 甲万那端甲万那端(他加禄语:Cabanatuan),是菲律宾新怡诗夏省的一座城市。面积192.29平方公里。根据2015年人口普查结果,甲万那端拥有302,231名居民。现下辖89个描笼涯。坐标:15°29′N 120
  • 中华人民共和国农业机械部中华人民共和国农业机械部是的中华人民共和国国务院原有的一个组成部门,主管农业机械事务,1959年8月成立农业机械部。1970年7月1日并入第一机械工业部为农机局。1965年1月改称
  • 释普交法融牛头宗|弘忍东山宗 – 神秀北宗禅|惠能南宗禅 – 北荷泽宗|南洪州宗|南石头宗|保唐宗惠能系曹溪南宗 – 释普交(1048年-1124年),又称天童普交,北宋时人,俗姓毕,庆元府天童寺沙门,禅
  • 阿倍比罗夫阿倍比罗夫(生卒年不详)是日本飞鸟时代的将军,约活跃于7世纪中期。阿倍氏,名比罗夫。姓(政治阶级)为“臣”,冠位大锦上。他在《日本书纪》中以阿倍引田臣的名字登场,在《大日本史》
  • 伟江河伟江河,位于中国湖南省西南部和广西壮族自治区北部,是平等河左岸支流,发源于湖南省城步苗族自治县西南的南山牧场,西南流入广西龙胜各族自治县境,经伟江乡,至乐江乡河口村汇入平等
  • 埃弗里特冰原岛峰坐标:85°28′S 176°40′W / 85.467°S 176.667°W / -85.467; -176.667埃弗里特冰原岛峰(英语:Everett Nunatak),是南极洲的冰原岛峰,位于杜费克海岸,处于罗伯兹山东北面的萨内韦