剪枝

✍ dations ◷ 2025-09-09 20:26:27 #机器学习小作品,机器学习

剪枝(英语:pruning)是机器学习与搜索算法当中通过移除决策树中分辨能力较弱的部分而减小决策树大小的方法。剪枝降低了模型的复杂度,因此能够降低过拟合风险,从而降低泛化误差。

在决策树算法中,决策树过大会有过拟合的风险,从而在新样本上的泛化性能很差;决策树过小则无法从样本空间中获取重要的结构化信息。然而,由于很难判断新增一个额外的分裂结点能否显著降低误差,人们很难判断何时停止决策树的生长是恰当的。该问题被称为视界限制效应(英语:Horizon_effect)。一个通用的策略是让决策树一直生长,直到每个叶子结点都包含足够少量的样本,而后通过剪枝的方法,移除分辨能力较弱的结点。

剪枝应当在减小决策树大小的同时,保证交叉验证下的精度不降低。

相关

  • 外曾祖母曾祖父母(英语:Great grandparents)是祖父的父亲母亲;又称爷爷的父亲母亲。自己则分别是曾祖父母的曾孙子或曾孙女。在北方地区习惯称呼曾祖父称为“太爷爷”,曾祖母为“太奶奶”
  • 杨森制药杨森制药(英语:Janssen Pharmaceutica)是一家比利时制药公司。1953年由比利时化学家保罗·杨森创建,1961年10月24日被美国强生公司收购。1976年保罗·杨森遇见马海德,在几天商
  • 反应速率常数在化学动力学中,反应速率常数,又称速率常数 k或 λ是化学反应速率的量化表示方式。对于反应物A和反应物B反应成生成物C的化学反应,反应速率可表示成此式:k(T)是反应速率常数,会随
  • 罗氏海豹大眼海豹(学名:Ommatophoca rossii),是分布于南极大陆附近海域的一种海豹,因眼睛比较大(眼径达7厘米),故名,又因英国南极探险家詹姆斯·克拉克·罗斯于1841年首次描述,故又称罗氏海豹
  • 鹅颈藤壶鹅颈藤壶(学名:Pollicipes pollicipes)是指茗荷属的一种藤壶,发现于大西洋东北沿岸,与同属的蓝灰太平洋鹅颈藤壶很像。在其分布范围内的部分国家,尤其是西班牙,鹅颈藤壶是一道珍馐
  • 万寿台议事堂万寿台议事堂(朝鲜语:만수대의사당)位于朝鲜民主主义人民共和国首都平壤市大同江畔万寿台,建立于1984年10月,是朝鲜最高立法机构最高人民会议会议用场所。最高人民会议每年在此举
  • 瑞天咸瑞天咸爵士(英语:Sir Frank Athelstane Swettenham,1850年3月28日-1946年6月11日),英国殖民地官员。 他于1896年至1901年任第一位英国首位驻马来联邦代表,管治雪兰莪、霹雳州等马来
  • 伏见宫博恭王伏见宫博恭王(1875年10月16日-1946年8月16日),日本的皇族、海军军人。伏见宫贞爱亲王王子。议定官、军令部总长、元帅海军大将・大勲位・功一级。初名爱贤(なるかた)王,出继华顶宫,
  • 洪瑞珍三明治洪瑞珍三明治(英语:Hung Rui Chen Sandwich)是台湾彰化由“洪瑞珍饼店”专卖的三明治,吸引不少旅客购买用作送礼。“洪瑞珍饼店”于1947年由洪宜杉创立,首先在彰化北斗镇开了一家
  • 帕沃尔·霍赫朔尔纳帕沃尔·霍亚朔尔纳(斯洛伐克语:Pavol Hochschorner,1979年9月7日-),生于布拉迪斯拉发,是一名斯洛伐克皮划艇运动员。他的双胞胎兄弟彼得·霍赫朔尔纳同样也是皮划艇选手,两人经常搭