ID3算法

✍ dations ◷ 2025-06-08 02:47:01 #决策树,机器学习,算法

ID3算法(Iterative Dichotomiser 3 迭代二叉树3代)是一个由Ross Quinlan发明的用于决策树的算法。

这个算法是建立在奥卡姆剃刀的基础上:越是小型的决策树越优于大的决策树(简单理论)。尽管如此,该算法也不是总是生成最小的树形结构。而是一个启发式算法。奥卡姆剃刀阐述了一个信息熵的概念:

这个ID3算法可以归纳为以下几点:

关于ID3算法的实现可以参考C4.5算法,它同时也是ID3的升级版。

相关

  • 普世文化通则普世文化通则,或普世人性指的是在世界上所有的文化当中的都出现的元素、模式、特质或制度等。演化心理学认为所有文化当中都出现的行为或特质,有可能是演化适应的结果;另外,一些
  • 象鼩目 Macroscelidea象鼩是一类非洲原住的食虫哺乳动物,属于象鼩目(Macroscelidea)。它们有着很像象的长鼻。它们广泛分布在南部非洲,由纳米比沙漠至南非及大森林中都有。其中的北非象鼩则生活在非
  • 硫酸乙酯硫酸乙酯(英语:Ethyl sulfate,又叫硫酸一乙酯、乙基硫酸 英语:sulfovinic acid 等)是一种有机化合物,乙醇和硫酸生成的两种酯之一,是乙醇生成乙烯的中间产物。
  • QS亚洲大学排名《QS世界大学排名》(英文:QS World University Rankings)为英国Quacquarelli Symonds发表的年度大学排行榜。QS公司最初与《泰晤士高等教育》增刊合作,两者于2004-2009年期间联
  • 南康郡南康郡,西晋至唐朝时设置的一个郡。晋武帝太康三年(282年),改孙吴所设的庐陵南部都尉为南康郡,治所赣县,属杨州。包括今江西省南康、赣县、兴国、宁都以南之地。晋惠帝元康元年,南
  • 何文庆何文庆(1801年-1863年),浙江诸暨赵家泉畈人,莲蓬党领袖,太平天国将领。以医为生,出入江湖,擅治伤骨、疮疾。有子何松泉。咸丰八年(1858年)左右,为抗租抗捐,以前畈村何氏族人为核心在何
  • 鲍伯·韦勒鲍伯·韦勒(Robert John (Bob) Widlar,1937年11月30日-1991年2月27日),是一位美国电子工程师,以设计了集成电路而知名。1964 年到 1970 年,他与 David Talbert 合作发明了第一个集
  • HDCAMHDCAM于1997年推出,是高清版本的Digital Betacam,使用8位元DCT 3:1:1抽样压缩,在1440×1080下降取样1080i相容的分辨率,及在后期型号加入24p及23.976 PsF模式。HDCAM编解码器使
  • 鸡子大饼鸡子大饼,又称葱油鸡子大饼,是中国江苏无锡的传统地方小吃,其创制历史可追溯自民国初年。无锡鸡子大饼始于1915年,首创者为一葱油饼小贩范盘福,因其制作葱油饼的手艺极好,旁人便多
  • 天主教纳什维尔教区天主教纳什维尔教区(拉丁语:Dioecesis Nashvillensis、英语:Roman Catholic Diocese of Nashville)是美国一个罗马天主教教区,属路易斯维尔总教区。成立于1837年7月28日。范围包