剪枝

✍ dations ◷ 2025-04-09 06:12:24 #机器学习小作品,机器学习

剪枝(英语:pruning)是机器学习与搜索算法当中通过移除决策树中分辨能力较弱的部分而减小决策树大小的方法。剪枝降低了模型的复杂度,因此能够降低过拟合风险,从而降低泛化误差。

在决策树算法中,决策树过大会有过拟合的风险,从而在新样本上的泛化性能很差;决策树过小则无法从样本空间中获取重要的结构化信息。然而,由于很难判断新增一个额外的分裂结点能否显著降低误差,人们很难判断何时停止决策树的生长是恰当的。该问题被称为视界限制效应(英语:Horizon_effect)。一个通用的策略是让决策树一直生长,直到每个叶子结点都包含足够少量的样本,而后通过剪枝的方法,移除分辨能力较弱的结点。

剪枝应当在减小决策树大小的同时,保证交叉验证下的精度不降低。

相关

  • 海星见内文海星是一种棘皮动物。海星一般都会有5个触手/腕,从身体中间伸出。海星的骨骼不能动,靠它的水管系统(英语:water vascular system)移动。在它胳膊上的水管系统上有很多凸出
  • 马库斯·巴贝尔马库斯·巴贝尔(德语:Markus Babbel,1972年9月8日-)是一名已退役的德国足球运动员,担任后卫,曾效力多所德甲及英超大球会。巴贝尔退役后出任教练,现时无业。巴贝尔出身于德国球会拜
  • 转型正义转型正义(英语:Transitional Justice)是民主国家对过去独裁政府实施的违法和不正义行为的弥补,通常具有司法、历史、行政、宪法、赔偿等面向。其根本基础在还原历史真相。评议者
  • 华阴市华阴市位于中华人民共和国陕西省东部、渭河下游,是渭南市代管的县级市。北部渭河平原为重要麦、棉产区。根据考古发掘资料,起码在新石器时代,境内的观北乡龙窝村,敷水镇敷南村等
  • 阳翟阳翟,中国古代地名,为今日河南禹州市。传说是夏禹建国时的首都。在东周周襄王时,狄人入侵此地而得名。公元前408年,韩景侯将韩国国都自平阳迁至阳翟。前375年,韩哀侯将都城从阳翟
  • 塔古尔冈县塔古尔冈(Thakurgaon District)为孟加拉国朗布尔专区辖县,地处孟加拉国西北角;1984年自迪纳杰布尔(迪奈普)析置。县境西南部与印度西孟加拉邦接壤,东北部与班乔戈尔县毗邻,东与迪纳
  • 米尔托翁海米尔托翁海是地中海的一个海,位于基克拉泽斯群岛和伯罗奔尼撒之间的爱琴海西南部,北面是萨龙湾和伊兹拉岛,南面有基西拉岛。坐标:37°N 24°E / 37°N 24°E / 37; 24
  • 贾馥茗贾馥茗(1926年-2008年5月7日),生于河北省青县,台湾教育学家,台湾师范大学名誉教授。曾就读北京师范学院,后来台就读台湾省立师范学院教育系。1957 年,教育研究所硕士班毕业,留在师大
  • 吉子女王吉子女王(よしこじょおう、文化元年九月廿五(1804年10月28日) - 明治26年(1893年)1月27日)幕末明治时代的皇族出身女性。有栖川宫织仁亲王12女。生母为侧室安藤清子。水户藩主德川
  • 像猪一样的女子《像猪一样的女子》(韩语:돼지 같은 여자;英语:My Sister, The Pig Lady)是2015年9月上映的一部韩国电影。讲述一个因为白带鱼消失的没落渔村,剩下来的三名年轻女子与一位年轻青年