剪枝

✍ dations ◷ 2025-07-21 18:38:08 #机器学习小作品,机器学习

剪枝(英语:pruning)是机器学习与搜索算法当中通过移除决策树中分辨能力较弱的部分而减小决策树大小的方法。剪枝降低了模型的复杂度,因此能够降低过拟合风险,从而降低泛化误差。

在决策树算法中,决策树过大会有过拟合的风险,从而在新样本上的泛化性能很差;决策树过小则无法从样本空间中获取重要的结构化信息。然而,由于很难判断新增一个额外的分裂结点能否显著降低误差,人们很难判断何时停止决策树的生长是恰当的。该问题被称为视界限制效应(英语:Horizon_effect)。一个通用的策略是让决策树一直生长,直到每个叶子结点都包含足够少量的样本,而后通过剪枝的方法,移除分辨能力较弱的结点。

剪枝应当在减小决策树大小的同时,保证交叉验证下的精度不降低。

相关

  • 福冈大学福冈大学福冈大学(日语:ふくおかだいがく,英语:The University of Fukuoka / Fukuoka University)是一所位于日本福冈县福冈市的私立大学。
  • 核苷核苷(英语:Nucleoside)是一类糖甘胺(glycosylamine)分子,组成物是碱基加上环状核糖或脱氧核糖。例如胞苷、尿苷、腺苷、鸟苷与腺苷,这些核苷加上一个磷酸基团就是核苷酸,为DNA与RNA
  • 亚历山大三世桥亚历山大三世桥(Pont Alexandre III)是法国巴黎跨越塞纳河的一座拱桥,连接右岸的香榭丽舍大街地区和左岸的荣军院和艾菲尔铁塔地区,普遍认为是巴黎最华丽的桥梁 。亚历山大三世
  • span class=nowrapPusub2/sub(SOsub4/sub)sub&g硫酸钚(III)是一种具有强放射性的无机化合物,化学式为Pu2(SO4)3,存在无水物和水合物。可以和钾、铊(I)形成复盐(KPu(SO4)2·4H2O和TlPu(SO4)2·4H2O)。
  • 奥尔堡奥尔堡(丹麦语:Aalborg或Ålborg, 发音 帮助·信息 宽式IPA:.mw-parser-output .IPA{font-family:"Charis SIL","Doulos SIL","Linux Libertine","Segoe UI","Lucida Sans Unic
  • 糯米肠糯米肠(台湾闽南语:秫米肠),或简称为米肠,是一种米类小吃,见于台湾、广东潮汕地区、朝鲜半岛等地,将调味后的糯米塞入洗净后的猪大肠,成为携带方便的糯米肠。台湾亦称为米肠、大肠等
  • 食毛亚目见内文虱毛目(学名:Phthiraptera)是原虱目和食毛目的合称,通称虱或虱子(英语:louse)。全世界约有3,000种。虱寄生于人体、其他哺乳动物(除了单孔目和蝙蝠外)和鸟类的身上。以人类为宿
  • 永全片湘语永全片,分布在湘桂走廊一带,东起湖南省衡阳市祁东县附近,向西延伸到广西壮族自治区的兴安县和灌阳县。该片使用人口达600余万。永全片包括全州话、永州话、祁阳话等,最大的
  • 长谷部言人长谷部言人(日语:長谷部言人 ,1882年6月10日-1969年12月3日),出生于东京都。人类学家、解剖学家,日本学士院成员。
  • 蜗牛邮件蜗牛邮件(英语:snail mail),是一个返璞词,指电子信息时代出现之前的所有邮件都可以称之为蜗牛邮件。蜗牛邮件的称呼来源于和电子邮件相比:相比于电子邮件的超级快速,传统邮件的送达