剪枝

✍ dations ◷ 2025-04-29 11:50:19 #机器学习小作品,机器学习

剪枝(英语:pruning)是机器学习与搜索算法当中通过移除决策树中分辨能力较弱的部分而减小决策树大小的方法。剪枝降低了模型的复杂度,因此能够降低过拟合风险,从而降低泛化误差。

在决策树算法中,决策树过大会有过拟合的风险,从而在新样本上的泛化性能很差;决策树过小则无法从样本空间中获取重要的结构化信息。然而,由于很难判断新增一个额外的分裂结点能否显著降低误差,人们很难判断何时停止决策树的生长是恰当的。该问题被称为视界限制效应(英语:Horizon_effect)。一个通用的策略是让决策树一直生长,直到每个叶子结点都包含足够少量的样本,而后通过剪枝的方法,移除分辨能力较弱的结点。

剪枝应当在减小决策树大小的同时,保证交叉验证下的精度不降低。

相关

  • 巴陶氏症候群巴陶氏症候群(Patau syndrome),又称13-三体症候群,染色体三倍体症之一,少见,患者多在出生后一年内死亡。13-三体症候群早在1657年便由丹麦医学家托马斯·巴托林发现,但其染色体性质
  • 后院后院,是位于房子后方的庭院,常见于西方世界的郊区发展。于寒冷地区,在低土地价值区域中使用房子周围的开放空间于夏季进行果菜园耕种,并允许强烈要求的阳光于冬季从低水平角进入
  • 珀西·格兰杰珀西·奥尔德里奇·格兰杰(英语:Percy Aldridge Grainger,1882年7月8日-1961年2月20日)是著名的澳大利亚钢琴家、作曲家、以及萨克斯风演奏家。第一次世界大战后成为美国公民。精
  • 熊 毅熊毅(1910年3月10日-1985年1月24日),字其毅,贵州贵阳人,中国土壤学家。被称为中国土壤胶体化学和土壤矿物学的奠基人,土壤发生和土壤资源研究、水稻土和土壤肥力研究、土壤生态和环
  • 思乐康喹硫平(Quetiapine),由阿斯利康制药商品名为思乐康、思瑞康(Seroquel),而由奥利昂集团(Orion Pharma)商品名为Ketipinor,两者都是富马酸喹硫平盐的药物,是非典型的抗精神病用药,主要治
  • 网域缩写本列表收录已加入DNS根域(英语:DNS root zone)的顶级域名,正式列表请以IANA为准,截止2019年官方列表拥有1530个顶级域名,其中部分已弃用。根据IANA定义:7个通用顶级域早在互联网早
  • 战略村战略村(越南语:Ấp Chiến lược/.mw-parser-output .han-nom{font-family:"Nom Na Tong","Han-Nom Gothic","Han-Nom Ming","HAN NOM A","HAN NOM B","Ming-Lt-HKSCS-UNI-H",
  • 胡蜂级黄蜂级两栖攻击舰(英语:Wasp-class amphibious assault ship)是美国海军的两栖攻击舰,舰种分类为直升机船坞登陆舰(英语:Landing helicopter dock)(Landing Helicopter Dock, LHD)。
  • 王茂元王茂元(8世纪?-843年),濮州濮阳县人,唐朝武将。出身将门,父亲王栖曜参加过“安史之乱”讨伐叛军的战斗。王茂元从小好学,在德宗时曾上书自荐,擢试校书郎,改官为太子赞善大夫。吕元膺
  • 核酮糖-5-磷酸核酮糖5-磷酸(英语:Ribulose 5-phosphate)是一个戊糖磷酸途径中的终端产物。它亦是卡尔文循环的中间代谢物。此种物质由磷酸葡糖酸脱氢酶形成,并且它可被磷酸戊糖异构酶和磷酸戊