ID3算法

✍ dations ◷ 2025-09-08 23:34:51 #决策树,机器学习,算法

ID3算法(Iterative Dichotomiser 3 迭代二叉树3代)是一个由Ross Quinlan发明的用于决策树的算法。

这个算法是建立在奥卡姆剃刀的基础上:越是小型的决策树越优于大的决策树(简单理论)。尽管如此,该算法也不是总是生成最小的树形结构。而是一个启发式算法。奥卡姆剃刀阐述了一个信息熵的概念:

这个ID3算法可以归纳为以下几点:

关于ID3算法的实现可以参考C4.5算法,它同时也是ID3的升级版。

相关

  • 库尔德斯坦民主党库尔德斯坦民主党(库尔德语:پارتی دیموکراتی کوردستان Partîya Demokrata Kurdistanê‎‎,简为“PDK”;英语:Kurdistan Democratic Party,简为“KDP”),也
  • 洛雷斯坦洛雷斯坦省(波斯语:لرستان)是伊朗三十一个省份之一。面积28,559平方公里,在所有省份中排行第十四。人口约1,739,600(2006年数据);首府位于霍拉马巴德市。洛雷斯坦省位于伊
  • 拉金赫恩山拉金赫恩山(德语:Lagginhorn;4,010米)是瑞士本宁阿尔卑斯山脉的一座山。它位于比它稍高的魏斯密斯山和Fletschhorn(英语:Fletschhorn)北面几公里处。拉金赫恩山是主阿尔卑斯山脉(英
  • 2013年NBA选秀2013年NBA选秀于2013年6月27日在美国纽约布鲁克林巴克莱中心举行。在本次选秀中,美国国家篮球协会在美国大学篮球业余运动员和其他符合资格的运动员中挑选球员。这是新奥尔良
  • 水鸟涉禽(wader),在北美也称为水鸟(shorebirds,在这些地方的涉禽往往指的是长脚的涉水鸟类,如鹳和鹭),属鸻形目(Charadriiformes),但不包括那些海边有蹼的海鸟。后者包括贼鸥skua(贼鸥科,Ster
  • 东干语中国伊斯兰教 以下子音表对照有目前东干语拼法(西里尔字母),旧东干语拼法(拉丁字母),汉语拼音,及IPA。以下母音表对照有目前东干语拼法(西里尔字母),旧东干语拼法(拉丁字母),汉语拼音,及I
  • 海滋客海滋客(Long John Silver's),为国际连锁速食餐厅,源起美国。以海鲜、炸鱼块为其强调的主要特色。原文店名系来自罗伯·路易斯·史蒂文生名著《金银岛》中的海盗“Long John Silv
  • 威廉·皮索威廉·皮索(Willem Piso、荷兰名:Willem Pies、拉丁名:Guilielmus Piso 或 Guilherme Piso,1611年-1678年11月28日)是荷兰医生、生物学家、植物学家,同时也是热带医学创始者之一。
  • 黑尾袋鼠黑尾袋鼠(学名:)是袋鼠科黑尾袋鼠属中唯一的一个种。与其它小袋鼠相比它在身体结构和繁殖方式上有所不同,因此自成一属,而没有被列入大袋鼠属。黑尾袋鼠的外形特征是它们长而粗的
  • 刺茉莉科参见正文刺茉莉科共有3属12种,分布在热带非洲、亚洲和马达加斯加岛,中国只有1种——刺茉莉 ( (Bl.) Benth. et Hook. f.) 生长在海南。本科植物为乔木或灌木,有腋生的刺或无刺;单