剪枝

✍ dations ◷ 2025-11-29 01:37:35 #机器学习小作品,机器学习

剪枝(英语:pruning)是机器学习与搜索算法当中通过移除决策树中分辨能力较弱的部分而减小决策树大小的方法。剪枝降低了模型的复杂度,因此能够降低过拟合风险,从而降低泛化误差。

在决策树算法中,决策树过大会有过拟合的风险,从而在新样本上的泛化性能很差;决策树过小则无法从样本空间中获取重要的结构化信息。然而,由于很难判断新增一个额外的分裂结点能否显著降低误差,人们很难判断何时停止决策树的生长是恰当的。该问题被称为视界限制效应(英语:Horizon_effect)。一个通用的策略是让决策树一直生长,直到每个叶子结点都包含足够少量的样本,而后通过剪枝的方法,移除分辨能力较弱的结点。

剪枝应当在减小决策树大小的同时,保证交叉验证下的精度不降低。

相关

  • 分贝分贝(decibel)是量度两个相同单位之数量比例的单位,常用dB表示。“分”(deci-)指十分之一,个位是“贝”或“贝尔”(bel,纪念发明家亚历山大·格拉汉姆·贝尔),但一般只用分贝。分贝(dB)
  • 极端贫困极端贫穷(英语:Extreme poverty)即赤贫,指贫穷的最严重状况,亦即一个人无法获致生存所需的基本需求,包括食物,水,衣物,住屋,卫生设备,教育与健康医疗。为掌握世界各国极端贫穷的人数,世
  • 汉城国立大学首尔大学(朝鲜语:서울대학교/서울大學校,英语:Seoul National University)是一所位于韩国首尔的国立大学。最早的直接前身是朝鲜高宗在1895年创建的法官养成所,后来的京城法学专门
  • 德国政党德国属于多党制,联邦议院中的两大政党为德国社会民主党和德国基督教民主联盟(与姐妹党巴伐利亚基督教社会联盟属于同一个议会党团)。其他政党有自由民主党、左翼党和联盟90/绿
  • 七姊妹学院七姊妹学院(英语:Seven Sisters)是形容美国东北部地区7所文理学院间松散关系的一个称呼,因这些学院曾经都是女子学院而得名。7所学院均成立于19世纪,至今仍有5所学院延续这种教育
  • 清硬颚塞擦音清硬颚塞擦音 是一种辅音,被使用于一些口语中,其国际音标(IPA)记做⟨c͡ç⟩或⟨c͜ç⟩;X-SAMPA音标写作c_C。其中间的弧线可以省略,则音标可以分别改写作⟨cç⟩(IPA)、 cC(X-SAMPA
  • 花萤科花萤科(Cantharidae),又称菊虎科,为鞘翅目下的一科,属于叩头虫总科的一支。目前已知超过130属5000种,分属5个亚科。该科成员一般体态修长、鞘翅柔软,且许多种类具有鲜艳的警戒色。
  • S4 League《S4 League》(韩语:S4리그)是一个由Pentavision制作的第三人称射击类的网络游戏。在欧洲,由Alaplaya代理,在韩国则由Pmang这个名字来自Stylish(流行)、eSper(超能力者)、Shooting(射
  • 训练集、验证集和测试集机器学习的普遍任务就是从数据中学习和构建模型(该过程称之为训练),并且能够在将来遇到的数据上进行预测。用于构建最终模型的数据集通常有多个;在构建模型的不同阶段,通常有三种
  • 四十年战争四十年战争(缅甸语:အနှစ်လေးဆယ်စစ်;1385年-1424年;又名阿瓦-勃固战争或孟人-缅甸人战争)是说缅甸语的阿瓦王国与说孟语的罕礁瓦底勃固王国之间发生的一场军事冲突