ID3算法

✍ dations ◷ 2025-07-21 12:48:40 #决策树,机器学习,算法

ID3算法(Iterative Dichotomiser 3 迭代二叉树3代)是一个由Ross Quinlan发明的用于决策树的算法。

这个算法是建立在奥卡姆剃刀的基础上:越是小型的决策树越优于大的决策树(简单理论)。尽管如此,该算法也不是总是生成最小的树形结构。而是一个启发式算法。奥卡姆剃刀阐述了一个信息熵的概念:

这个ID3算法可以归纳为以下几点:

关于ID3算法的实现可以参考C4.5算法,它同时也是ID3的升级版。

相关

  • 周向宇周向宇(1965年3月-),中国数学家。生于郴州,原籍洞口县。1985年毕业于湘潭大学数学系。现任中国科学院数学与系统科学研究院研究员。1990年获得钟家庆数学奖。2002年获得陈省身数
  • 长期的长期变化是时间系列在长时期的非周期变化(参见分解时间系列)。无论何者被查觉是长期变化或是与时间尺度无关:在超越世纪的时间尺度上,长期变化在数百万年的时间尺度下可能是周期
  • 日裔日侨(日语:日系人/にっけいじん)指的是已移居海外,并取得当地国籍或永久居留权,具有日本血统的侨民。现在估计大约有350万人(也包括混血)。在日本居住的日侨被称为归国日侨(在日日系
  • 岩漠岩漠、岩质荒漠、石质荒漠,又音译哈马达(英语:hamada,从阿拉伯语: حمادة ḥammāda)是荒漠的一种,通常是大型的干燥、岩石为主体的高原,沙粒很少。岩漠与沙漠是荒漠的主要两种
  • 摩尔达维亚大公国摩尔达维亚公国,罗马尼亚历史上的一个公国,形成于14世纪,1859年与瓦拉几亚公国合并,成为现代罗马尼亚的前身。
  • 杭州奥体博览城杭州奥体博览城(英语:Hangzhou Olympic Sports Expo Center)位于杭州市钱塘江南岸的滨江区和萧山区两区分界的七甲河两侧,属于钱江世纪城区块,与对岸的钱江新城核心区隔江相望。
  • 邱幸仪邱幸仪(1984年7月19日-)为台湾的客语流行音乐创作歌手,屏东万峦四县腔(南四县腔)客家人。邱幸仪十一岁时随父母移民新西兰。2004年以《月光光》一曲获得高雄市第一届客家流行歌
  • 第五共和国 (大韩民国)第五共和国(朝鲜语:제5공화국/第五共和國)是大韩民国历史上的政权。1979年10月26日,韩国总统朴正熙被暗杀身亡后,时任总理崔圭夏继任总统,不久国军保安司令官全斗焕少将发动双十二
  • 五金件五金件(metal product)是指把五金,即金、银、铜、铁、锡通过一定的技术加工,得到的一种使用工具。主要是用来做装饰、固定物品、以及加工物品等。金件:即把金加工之后得到的一
  • 胡焕庸胡焕庸(1901年11月20日-1998年4月30日),字肖堂,男,江苏宜兴人,中国地理学家,华东师范大学教授,中国现代人文地理学和自然地理学的奠基人。提出了胡焕庸线。1901年出生于江苏省宜兴县