剪枝

✍ dations ◷ 2025-06-09 20:55:43 #机器学习小作品,机器学习

剪枝(英语:pruning)是机器学习与搜索算法当中通过移除决策树中分辨能力较弱的部分而减小决策树大小的方法。剪枝降低了模型的复杂度,因此能够降低过拟合风险,从而降低泛化误差。

在决策树算法中,决策树过大会有过拟合的风险,从而在新样本上的泛化性能很差;决策树过小则无法从样本空间中获取重要的结构化信息。然而,由于很难判断新增一个额外的分裂结点能否显著降低误差,人们很难判断何时停止决策树的生长是恰当的。该问题被称为视界限制效应(英语:Horizon_effect)。一个通用的策略是让决策树一直生长,直到每个叶子结点都包含足够少量的样本,而后通过剪枝的方法,移除分辨能力较弱的结点。

剪枝应当在减小决策树大小的同时,保证交叉验证下的精度不降低。

相关

  • 辽兴宗景福:1031年六月—1032年十一月辽兴宗耶律宗真(1016年4月3日-1055年8月28日),契丹第七位皇帝(1031年6月25日-1055年8月28日在位),契丹名只骨。在位24年,享年40岁,谥孝章皇帝。他是辽圣
  • 沉降沉降又称沉积、沉淀,是悬浮液的粒子下沉积聚的过程。原因可以是地心吸力、离心力或电磁力。在地理学,沉降通常是侵蚀作用的相反,亦即沉积物迁移的最终结果;过程包括跃移。不同大
  • 法国国家男子篮球队法国篮球国家队,是代表法国参加国际篮球赛事的篮球国家队。法国国家篮球队为欧洲一流球队。法国是欧洲篮球锦标赛的常客,以是冠军。法国还在1948年和2000年的奥运会上取得了亚
  • 国立传统艺术中心国立传统艺术中心(简称传艺中心),为中华民国文化部所属三级附属机构,主要任务为统筹、规划、推动台湾传统艺术的调查、保存、传习及推广工作,辖下拥有三个派出单位:国光剧团、台湾
  • 北京大学药学院北京大学药学院,始建于1941年,原为北京大学医学院药学系;1952年医学院独立建院,随之改名为北京医学院药学系;1985年随学校更名为北京医科大学药学院,2000年4月北京医科大学与北京
  • 加州州立大学萨克拉门托萨克拉门托加利福尼亚州立大学 (California State University, Sacramento;常用简称Sacramento State、Sac State、萨克拉门托加州州大;又常被译为加州州立大学萨克拉门托分校
  • 海豹号潜艇巴劳鱵级潜艇(Balao class submarine)是美国海军在二次大战时代所建造操作过的一个潜艇船级,是猫鲨级(Gato class)的改进型,由于其出色设计一共建造了120艘同级舰,成为美国历史上建
  • 蕃薯叶番薯叶或称地瓜叶、甘薯叶,是旋花科番薯属植物番薯的叶,可作为蔬菜食用。早年种植番薯的农民为求物尽其用,割下番薯叶后多半将它煮熟。亦有农民只摘取嫩叶部分炒熟吃,或加入蒜末
  • 吸血 (生物学)吸血(Hematophagy ,来自希腊文,“血”,“去吃”)是某些特定动物取食血液的一种行为。由于血液是一种富含营养蛋白和脂质而不需要花费过多努力获得的液体组织,因此特别是在一些小动
  • 萨尤季斯萨尤季斯(立陶宛语:Sąjūdis,意为“运动”),初名立陶宛改革运动,是20世纪80年代和90年代初领导立陶宛脱离苏联独立的政治组织,正式成立于1988年6月3日,领导人为维陶塔斯·兰茨贝吉