ID3算法

✍ dations ◷ 2025-02-23 16:29:48 #决策树,机器学习,算法

ID3算法(Iterative Dichotomiser 3 迭代二叉树3代)是一个由Ross Quinlan发明的用于决策树的算法。

这个算法是建立在奥卡姆剃刀的基础上:越是小型的决策树越优于大的决策树(简单理论)。尽管如此,该算法也不是总是生成最小的树形结构。而是一个启发式算法。奥卡姆剃刀阐述了一个信息熵的概念:

这个ID3算法可以归纳为以下几点:

关于ID3算法的实现可以参考C4.5算法,它同时也是ID3的升级版。

相关

  • 爱明内斯库米哈伊·爱明内斯库(罗马尼亚语:Mihai Eminescu,1850年1月15日-1889年6月15日),罗马尼亚浪漫主义男诗人,代表作:Luceafărul(晨星),Mai am un singur dor(我有一个未完成的心愿),以及5 Scr
  • 太浩湖盆地太浩湖盆地管理区(英语:Lake Tahoe Basin Management Unit)是一座美国国家森林,用以保育太浩湖以及太浩湖盆地周围的公有土地。森林在内华达山脉处横跨加利福尼亚州和内华达州的
  • 经筵经筵是中国、朝鲜古代帝王为讲论经史而特设的御前讲席。汉代以来即经久不绝,但到宋代始称经筵,讲官以翰林学士及其他官员兼任或充任讲官。宋代,以每年二月至端午、每年八月至冬
  • 宽叶车前大车前草(学名:Plantago major)又名宽叶车前,是车前科车前属的一种植物。这种植物原产于亚洲北部和欧洲,但现已遍布全球。它在殖民时期被无意中带到美洲。这种植物能够在紧致的土
  • 色佛尔条约塞夫尔条约(法语:Traité de Sèvres),又译塞夫勒条约、色佛尔条约,是协约国与奥斯曼帝国在1920年8月10日于法国塞夫尔签订的一项条约,属于1919年巴黎和会系列条约的一部分。内容
  • 马律马累(迪维希语:މާލެ‎‎;/ˈmɑːleɪ/, 当地发音.mw-parser-output .IPA{font-family:"Charis SIL","Doulos SIL","Linux Libertine","Segoe UI","Lucida Sans Unicode","
  • 1936年冬季奥林匹克运动会第四届冬季奥林匹克运动会(英语:the IV Olympic Winter Games,法语:les IVes Jeux olympiques d'hiver,德语:die IV. Olympischen Winterspiele),于1936年2月6日至16日在纳粹德国的
  • Super Girl (KARA专辑)《Super Girl》(日语:スーパーガール)是韩国的女子组合KARA在日本第二弹原作专辑。2011年11月23日由UNIVERSAL SIGMA发售。只限于初回盘B收录 1月 启程之歌(生物股长) | 2月 BEST
  • 丁晓萍丁晓萍(1966年4月-),上海交通大学人文学院副院长。1984年,毕业于缙云中学并考入北京大学中文系,她是缙云中学首位考上北京大学的女生。1989年,毕业于北京大学中文系中国文学专业,并
  • 凯瑟琳·哈恩凯瑟琳·哈恩(英语:Kathryn Hahn,1973年7月23日-),美国女演员,出演电视剧《遇见乔丹(英语:Crossing Jordan)》。哈恩生于伊利诺伊州威彻斯特,在俄亥俄州克利夫兰高地长大,拥有德国、爱尔