决策树剪枝

✍ dations ◷ 2025-04-26 13:54:27 #决策树剪枝

剪枝(英语:pruning)是机器学习与搜索算法当中通过移除决策树中分辨能力较弱的节点而减小决策树大小的方法。剪枝降低了模型的复杂度,因此能够降低过拟合风险,从而降低泛化误差。

在决策树算法中,决策树过大会有过拟合的风险,从而在新样本上的泛化性能很差;决策树过小则无法从样本空间中获取重要的结构化信息。然而,由于很难判断新增一个额外的分裂结点能否显著降低误差,人们很难判断何时停止决策树的生长是恰当的。该问题被称为视界限制效应(英语:Horizon_effect)。一个通用的策略是让决策树一直生长,直到每个叶子结点都包含足够少量的样本,而后通过剪枝的方法,移除分辨能力较弱的结点。

剪枝过程应当在减小决策树大小的同时,保证交叉验证下的精度不降低。

相关

  • 于默奥大学于默奥大学(瑞典语: Umeå universitet )是一所瑞典公立综合性大学,位于瑞典北部最大城市西博滕省于默奥市。该校成立于1965年,是瑞典国内历史第五悠久的大学,也是瑞典最好的大学
  • 小泽治三郎第二次世界大战 · 太平洋战争小泽治三郎(日文:おざわ じさぶろう,英文:Jisaburo Ozawa,1886年10月2日-1966年9月9日),宫崎县人,大日本帝国海军中将,日本海军第一机动舰队司令,并统帅舰
  • 林铁元门入第十世林門入(1785年-1819年),日本围棋棋手,为第九世林门悦的儿子,本名井田鐵元。1805年因林家门下实无好手,二段的铁元便被立为迹目,1813年(一说1816年)门悦去世,铁元继任,是为第十世林
  • 傅欢傅欢(1993年7月12日-),出生于上海,足球运动员。现效力上海上港,司职后卫。2005年7月,傅欢进入根宝足球基地。2011年中甲联赛开打前被上调至上
  • 2007年环法自行车赛2007年环法单车赛(Tour de France 2007)于2007年7月7日至7月29日举行,共有21支车队派出的189名选手参加。揭幕战是在英国首都伦敦市中心的7.9公里个人计时赛。这次比赛是在2006年10月26日宣布的。整个赛程呈顺时针,其中包括11个平地路段、6个山地赛段、1个冲刺赛段和2个个人计时赛段,共20站,全长3547公里。
  • 白羽 (作家)白羽(1899年-1966年),原名宫竹心,近代武侠小说作家。祖籍山东东阿,出生于天津马厂。白羽自幼喜爱文学。19岁父亲去世后,白羽陷入困顿,曾做过小贩、编辑、教师、书籍、税官、邮差等。受“五四”新文学影响也比较深,曾和鲁迅、周作人兄弟通信,得到他们的指导。1927年在《世界日报》连载武侠小说《青衫豪侠》,得到张恨水的赏识。1938年的《十二金钱镖》使白羽成名。1940年至1950年间,创作了大量的武侠小说。除武侠小说创作,白羽还从事金文、甲骨文研究、创办正华学校。1949年以通俗文学作家、天津代表身份出
  • 异想魅惑《异想魅惑》(日语:きまぐれテンプテーション)是Silky's Plus WASABI在2019年9月27日发售的恋爱冒险类型成人游戏,当中由きみしま青负责原画,かずきふみ担当编剧。全年龄版在2020年8月28日发售。Sekai Project在2021年11月19日推出本作的中英文版。《异想魅惑》拥有多条剧情分支路线,每条路线皆有一系列预先设定的场景和人物互动。其主要聚焦于玩家角色巽悠久跟女主角的互动,并刻画了角色之间的性行为。悠久是个阴阳师,因受师傅所托,而要跟自称此前于英国居住的恶魔安妮丽丝一起调查
  • 马尔科·贝里内利马尔科·贝里内利(意大利语:Marco Belinelli,1986年3月25日-),意大利篮球运动员,2007年NBA选秀会由金州勇士队所选。现效力于意大利的Virtus Pallacanestro Bologna。2 科怀·伦纳德 (总决赛MVP) |3 马尔科·贝里内利 |4 丹尼·格林 |5 库里·约瑟夫 |7 达迈·詹姆斯 |8 帕蒂·米尔斯 |9 托尼·帕克 (队长) |11 杰夫·艾尔斯 |15 马特·邦纳 |16 阿隆·拜恩斯 |20 马努·吉诺比利 |21 蒂姆·邓肯 (队长) |22
  • 蒂姆·布拉班茨蒂姆·布拉班茨(英语:Tim Brabants,1977年1月23日-),英国男子皮划艇运动员。他曾代表英国参加2000年、2004年、2008年和2012年夏季奥林匹克运动会皮划艇比赛,获得一枚金牌和二枚铜牌。
  • 希特德拉·马利克希特德拉·马利克(英语:Jitendra Malik,1960年10月11日-)是一位印度裔美国学者,也是加利福尼亚大学柏克莱分校电子工程和计算机科学的教授。他因其在计算机视觉方面的研究而知名。马利克于1960年10月11日出生于印度马图拉,在贾巴尔普尔的圣阿洛伊修斯高中(英语:St. Aloysius Senior Secondary School)完成学业。他于1980年获得坎普尔印度理工学院(英语:IIT Kanpur)电机工程学位,并于1985年获得史丹佛大学计算机科学博士学位。1986年1月,他