ID3算法

✍ dations ◷ 2025-10-05 05:17:56 #决策树,机器学习,算法

ID3算法(Iterative Dichotomiser 3 迭代二叉树3代)是一个由Ross Quinlan发明的用于决策树的算法。

这个算法是建立在奥卡姆剃刀的基础上:越是小型的决策树越优于大的决策树(简单理论)。尽管如此,该算法也不是总是生成最小的树形结构。而是一个启发式算法。奥卡姆剃刀阐述了一个信息熵的概念:

这个ID3算法可以归纳为以下几点:

关于ID3算法的实现可以参考C4.5算法,它同时也是ID3的升级版。

相关

  • 无定形体无定形体,或称无定形体、无定形形固体,是其中的原子不按照一定空间顺序排列的固体,与晶体相对应。常见的无定形体包括玻璃和很多高分子化合物如聚苯乙烯等。只要冷却速度足够快
  • 非共价键非共价键并不依赖电子间的共享,而是依赖正负电荷间的吸引力,因此吸力较弱,故仅需较小的力量就可将之打断。非共价键主要出现于超分子化学中,所担任的角色为:维持脱氧核糖核酸(DNA,
  • 奥斯汀-伯格斯特国际机场奥斯汀-伯格斯特国际机场(英语:Austin–Bergstrom International Airport;IATA代码:AUS;ICAO代码:KAUS;FAA代码:AUS)是一座位于美国德克萨斯州奥斯汀市的国际机场与民用机场,位于奥斯
  • CBS互动CBS Interactive(前身为CBS Digital Media Group)是一间美国公司,隶属于CBS集团旗下。该公司拥有一个以资讯和娱乐消息为主的线上内容网。旗下的网站主题涵盖新闻、体育、娱乐
  • 露西尔·鲍尔露西尔·戴泽蕾·鲍尔(Lucille Désirée Ball,1911年8月6日-1989年4月26日)是美国著名的喜剧女演员,在她的一生中,她一直活跃在电影、电视、舞台、电台等各种媒体上,成为了美国文
  • 波多黎各华人华人,大规模移民到波多黎各和加勒比海开始于19世纪。华人移民当时不得不面临不同的障碍,禁止或限制他们进入波多黎各。当波多黎各还是西班牙殖民地时,西班牙政府不鼓励非西班牙
  • 玛格丽特·博福特女领主玛格丽特·博福特女领主(/ˈboʊfərt/, ; 或 /ˈbjuːfərt/, ),1443年5月31日-1509年6月29日),后为里奇蒙和德比伯爵夫人(Countess of Richmond and Derby),是15世纪末玫瑰战争的
  • 华丽琴鸟华丽琴鸟(学名:)是雉型澳大利亚鸣禽,上身棕色,下身灰褐色,翅膀圆形、腿部健壮。成年华丽琴鸟重约一千克。平均体重仅次于现存鸣禽中的渡鸦与厚嘴渡鸦。华丽琴鸟体长约100厘米,仅次
  • 锺家宝锺家宝,(1981年2月22日- ),为台湾的棒球选手之一,目前效力于中华职棒兴农牛队,守备位置为捕手。
  • 大马坊乡大马坊乡,是中华人民共和国河北省保定市竞秀区下辖的一个乡镇级行政单位。大马坊乡下辖以下地区:东尹庄村、大马坊村、周庄村、张庄村、代庄村、高屯村、东营村、道口村、相庄