ID3算法

✍ dations ◷ 2025-05-18 17:07:15 #决策树,机器学习,算法

ID3算法(Iterative Dichotomiser 3 迭代二叉树3代)是一个由Ross Quinlan发明的用于决策树的算法。

这个算法是建立在奥卡姆剃刀的基础上:越是小型的决策树越优于大的决策树(简单理论)。尽管如此,该算法也不是总是生成最小的树形结构。而是一个启发式算法。奥卡姆剃刀阐述了一个信息熵的概念:

这个ID3算法可以归纳为以下几点:

关于ID3算法的实现可以参考C4.5算法,它同时也是ID3的升级版。

相关

  • 罗马式艺术罗马式美术,亦作罗曼艺术(英语:Romanesque art),是指在11世纪至12世纪在欧洲流行的一种艺术风格,罗马式名字是19世纪人们对这种风格的称呼,意为“与罗马建筑相似”。是第一个可以真
  • 菲利普·安德森菲利普·安德森(英语:Philip Anderson,1923年12月13日-),美国物理学家。 物理上,在反铁磁性、高温超导等领域有重大贡献。因“对磁性和无序体系电子结构的基础性理论研究”与内维尔
  • 三恶道恶道(梵语:akuśala-gatīḥ,义为“不善-趋向道”),又称三途、三恶道、三恶趣(趋),或恶趣(趋)、恶道。指三种不好的有情出生的处所,其中包含欲界六道中畜生道、饿鬼道以及地狱道三种恶
  • 中兽中爪兽(Mesonyx),又名中兽或钝肉齿兽,是中爪兽科下的一类。它们外表像狼及大小如狗,是始新世中期(约4500万年前)美国怀俄明州及东亚的掠食者。它的四肢灵活,相信是奔跑的能手,可能捕
  • b2000年代/b2000年代是二十一世纪的年代,从2000年1月1日开始,于2009年12月31日结束。2000年也是第2千年。2000年代是自1850年有现代测量数据以来最热的10年,其间全球经历了诸多气候极端事
  • Smart QQWebQQ是腾讯于2009年9月15日正式推出的一项服务,该服务可以使用户在不安装QQ软件的情况下使用QQ的部分服务。该功能已于2019年1月1日停止运营。WebQQ 1.x 是腾讯服务WebQQ的
  • 1967年亚足联青年锦标赛1967年亚足联青年锦标赛在泰国曼谷举行。以下球队参加了比赛: 泰国 v 新加坡以色列 v 南越缅甸 v 锡兰印尼 v 印度印尼 v 新加坡以色列 v 缅甸缅甸 v 新加
  • 岳光溪岳光溪(1945年10月30日-),北京人,洁净煤技术专家,中国工程院院士,现任清华大学研究员。
  • 康纳·威克姆康纳·威克姆(英语:Connor Wickham,1993年3月31日-)是一名英格兰足球运动员,司职前锋,现时被英超中的水晶宫外借至英冠球队谢周三。他出身伊普斯维奇,以16岁另11日成为球队历来最年
  • 约瑟夫·戈德伯格约瑟夫·戈德伯格(Joseph Goldberger,1874年7月16日-1929年1月17日),匈牙利裔美国医生和传染病学家。任职于美国公共卫生局。约瑟夫·戈德伯格是犹太人,出生于斯洛伐克吉拉尔托夫