ID3算法

✍ dations ◷ 2025-10-28 15:07:35 #决策树,机器学习,算法

ID3算法(Iterative Dichotomiser 3 迭代二叉树3代)是一个由Ross Quinlan发明的用于决策树的算法。

这个算法是建立在奥卡姆剃刀的基础上:越是小型的决策树越优于大的决策树(简单理论)。尽管如此,该算法也不是总是生成最小的树形结构。而是一个启发式算法。奥卡姆剃刀阐述了一个信息熵的概念:

这个ID3算法可以归纳为以下几点:

关于ID3算法的实现可以参考C4.5算法,它同时也是ID3的升级版。

相关

  • 缝匠肌缝匠肌是连接腰部前侧的带状长形肌肉,与大腿交叉之后延伸至小腿正面。由于以前的裁缝师父在工作的时候总是盘腿而坐,因此才将这个部位的肌肉命名为缝匠肌。负责将膝盖举起、放
  • 空袭东京东南亚地区:缅甸:西南太平洋地区:北美地区:日本:满洲地区:空袭东京,亦常称杜立特空袭(英语:Doolittle Raid),是美国于第二次世界大战期间的1942年4月18日时,向日本本土首次进行的空中轰
  • 陈佳惠陈佳惠,2012年8月13日开始以陈珈婕为艺名。2006年,陈佳惠离开新闻界并转型为艺人,初期以活动主持人和主持置入性行销电视节目与电视购物频道节目通告。2018年12月24日,复出主播
  • 危险物质危险物质指的是在使用或运输的过程中,会对环境、健康、安全及财产等造成危害的物质。这些物质依其化学性质分做几大类,每一类都有专属的标志及明显的颜色以兹识别。危险品不能
  • 质子衰变质子衰变,在粒子物理学上,是一个假设的放射性衰变,这假设预言了质子在衰变的时候,会变成更轻的亚原子粒子,通常是中性π介子和正电子。质子衰变从未被证实,至今仍没有证据显示质子
  • 利文斯顿 (南卡罗来纳州)利文斯顿(英文:Livingston),是美国南卡罗来纳州下属的一座城市。城市类型是“Town”。其面积大约为0.82平方英里(2.11平方公里)。根据2010年美国人口普查,该市有人口136人,人口密度
  • 林传甲林传甲(1877年-1922年),号奎腾,福建闽县(今属福州市)人,中国近代学者、汉学家、教育家、地理学家、方志学家。著作有《中国文学史》、《福海归程记》、《湖南驿程记》、《满蒙回藏地
  • 绿豆糕绿豆糕,是一种以绿豆为原料制作的糕点小吃。在中国,绿豆糕按口味分为京式(流行于北京、天津地区)、苏式和扬式。京式绿豆糕不添加油脂,又称“干豆糕”。苏式和扬式的绿豆糕添加油
  • 火星点唱机《火星点唱机》(英语:)是美国歌手布鲁诺·马尔斯的第二张录音室专辑,由大西洋唱片于2012年12月6日发行。专辑首支主打歌《Locked Out of Heaven》获得巨大成功,在美国告示牌百强
  • 摩纳哥热带公园摩纳哥热带公园(法语:Jardin Exotique de Monaco)是位于摩纳哥的一个植物园。摩纳哥热带公园开业于1933年,拥有超过千种多肉植物,特别是仙人掌类。摩纳哥热带公园内还有一个钟乳