多元分类

✍ dations ◷ 2025-04-04 11:14:00 #分类算法,统计分类

在机器学习中,多元分类是将实例分配到多个(多于两个)类别中的其中一个(将实例分配到两个类别中的其中一个被称为二分类)。

显然,分类算法可以分为二分类和多分类两种,而多分类算法可以通过将其转化为多个二分类来实现。

需要注意的是,多分类不应和多标签分类相混淆:多标签分类可以为每个实例预测多个标签,即同一个实例可以同时被分配到多个类别。

这部分讨论将多分类问题转化为多个二分类问题的策略。

:182, 338 (或,OvA或OvR)策略需要为每一个类别分别建立一个唯一的二分类基分类器,属于此类的所有样本均为正例,其余的全部为负例。这一策略需要基分类器去产生一个实值置信度以供决策,而不仅仅是预测出一个类标签:只是预测出类标签可能会导致归类的不明确(可能有多个基分类器都预测为正例),以致于一个样本会被预测属于多个类别。:182

通过OvR方法使用二分类算法L建立多分类学习器,其伪代码表示如下:

当进行多分类时,需要将所有的二分类分类器应用于一个未知样本x,x的最终分类类别即为产生最大置信度的分类器所对应的标签k:

尽管这一策略很流行,但它是一个受到些许问题困扰的启发式算法。首先,不同分类器之间置信度分布可能不同,这些分类器各自输出的置信度之间不一定具有可比性。其次,即使一个多分类训练集的类别是均衡分布的,其所对应的二分类所看到的类别分布也是不均衡的,因为它们所看到的负例个数通常远多于正例个数(即类别不平衡问题)。:338

(OvO) 的转化中,对于一个K类多分类问题,训练 ( − 1) / 2 个二分类分类器;每一个二分类分类器从初始多分类训练集中收集其中两个类别的所有样本,并学习去区分这两个类别。在预测时,会有一个投票:所有 ( − 1) / 2 个二分类分类器被应用于一个未知样本,并且那个得到最多“+1”预测的类别会成为最终的多分类预测结果。:339

像OvR一样, OvO也受些许问题困扰:在它输入空间的一些区域会收到相同数目的投票。:183

相关

  • 依法利珠单抗依法利珠单抗(Efalizumab,药品商品名为 Raptiva,瑞体肤,默克)是牛皮癣的治疗用药,是一种抗CD11a的单克隆抗体制剂,其作用机制是辨识白血球上的CD11a抗原,使白血球与其他细胞附着的能
  • 猪瘟猪瘟(classical swine fever, CSF或hog cholera),又称经典猪瘟或古典猪瘟,是感染猪的一种高传染性疾病。猪瘟会导致患病猪发烧、厌食、腹泻、死亡等,并可能带有神经症状。母猪可能
  • 田纳西州田纳西州(英语:State of Tennessee),位于美国南方,首府为纳许维尔,是美国音乐圣地,也是美国乡村音乐的中心。其他著名城市还有孟菲斯。美国2012年人口估算显示,田纳西州共有人口645.
  • 哈米吉多顿哈米吉多顿(新教和合本译,英语:Armageddon,古希腊语:Ἃρ Μαγεδών Har Magedón,希伯来语:.mw-parser-output .script-hebrew,.mw-parser-output .script-Hebr{font-size:1.
  • 狼母狼母乐队(Wolfmother)是一队澳大利亚有名的3人音乐组合。狼母乐队(Wolfmother)是一队来自澳洲悉尼的乐队,成立于2003年,风格为迷幻摇滚,而且经常被人们拿齐柏林飞船(Led Zeppelin)和
  • YouTube合作伙伴计划YouTube 合作伙伴计划(YouTube Partner Program, 简称YPP)能让Youtuber(创作者)能透过广告、订阅等各种方式,利用 YouTube 上的内容达到营利目的,协助Youtuber(创作者)打造专属
  • 联合抵制奥林匹克运动会列表奥林匹克运动会是国际性的综合运动会,在历史上它曾被抵制过六次,全都发生在夏季奥运。第一次抵制发生于1936年夏季奥林匹克运动会,最近一次则发生于1988年夏季奥林匹克运动会。
  • 阿瑟·阿什小阿瑟·罗伯特·阿什(英语:Arthur Robert Ashe, Jr.,1943年7月10日-1993年2月6日),美国网球手,第一位夺得大满贯男单冠军的黑人网球运动员。截至2020年7月,依然是唯一一位拿下澳网
  • 觉罗征奎觉罗征奎(满语:ᡤᡳᠣᡵᠣ ᠵᡝᠨᡴᡠᡳ,穆麟德:,太清:;1813年5月29日-1873年3月16日,嘉庆十八年四月二十九日辰时-同治十二年二月十八日辰时),字号不详,清朝正蓝旗觉罗载字辈。清朝翻译
  • 坎伯兰峡坎伯兰峡(英语:Cumberland Gap,或Cumberland Water Gap),海拔490米,是阿帕拉契山脉坎伯兰山区(Cumberland Mountains)的一个通道,它连接了田纳西州、肯塔基州以及维吉尼亚州。它是美