监督学习

✍ dations ◷ 2025-07-08 23:43:41 #机器学习

监督学习(英语:Supervised learning),又叫有监督学习,监督式学习,是机器学习的一种方法,可以由训练资料中学到或建立一个模式(函数 / learning model),并依此模式推测新的实例。训练资料是由输入物件(通常是向量)和预期输出所组成。函数的输出可以是一个连续的值(称为回归分析),或是预测一个分类标签(称作分类)。

一个监督式学习者的任务在观察完一些事先标记过的训练范例(输入和预期输出)后,去预测这个函数对任何可能出现的输入的输出。要达到此目的,学习者必须以"合理"(见归纳偏向)的方式从现有的资料中一般化到非观察到的情况。在人类和动物感知中,则通常被称为概念学习(concept learning)。

监督式学习有两种形态的模型。最一般的,监督式学习产生一个全域模型,会将输入物件对应到预期输出。而另一种,则是将这种对应实作在一个区域模型。(如案例推论及最近邻居法)。为了解决一个给定的监督式学习的问题(手写辨识),必须考虑以下步骤:

另外对于监督式学习所使用的辞汇则是分类。现著有著各式的分类器,各自都有强项或弱项。分类器的表现很大程度上地跟要被分类的资料特性有关。并没有某一单一分类器可以在所有给定的问题上都表现最好,这被称为‘天下没有白吃的午餐理论’。各式的经验法则被用来比较分类器的表现及寻找会决定分类器表现的资料特性。决定适合某一问题的分类器仍旧是一项艺术,而非科学。

目前最广泛被使用的分类器有人工神经网络、支持向量机、最近邻居法、高斯混合模型、朴素贝叶斯方法、决策树和径向基函数分类。

监督式学习的目标是在给定一个 (, ())的集合下,去找一个函数。

假设符合行为的样本集合是从某个更大甚至是无限的母体中,根据某种未知的概率分布,以独立同分布随机变量方式来取样。则可以假设存在某个跟任务相关的损失函数

其中,是的陪域,且会对应到非负实数(可能有其它限制)。如果预测出来的值是,但实际值是,而(, )这个量是其间的。

某个函数的风险是定义成损失函数的期望值。如果几率分布p是离散的(如果是连续的,则可采用定积分和几率密度函数),则定义如下:

现在的目标则是在一堆可能的函数中去找函数*,使其风险(*)是最小的。

然而,既然的行为已知适用于此有限集合(11), ..., nn),则我们可以求得出真实风险的近似值,譬如,其为:

选择会最小化经验风险的函数*就是一般所知的原则。统计学习理论则是研究在什么条件下经验风险最小化才是可行的,且预斯其近似值将能多好?

一个情况是,有大量尚未标示的资料,但去标示资料则是很耗成本的。一种方法则是,学习算法会主动去向使用者或老师去询问标签。这种形态的监督式学习称为主动式学习。既然学习者可以选择例子,学习中要使用到的例子个数通常会比一般的监督式学习来得少。以这种策略则有一个风险是,算法可能会专注在于一些不重要或不合法的例子。

相关

  • 汉弥尔顿威廉·汉弥尔顿(英语:William Donald Hamilton、1939年8月1日-2000年3月5日),英国皇家学会成员,被认为是20世纪最伟大的演化生物学理论家之一。他提出了亲属选择理论,解释蚁类中工
  • 台铁CK80型蒸汽机车台铁CK80型蒸汽机车为台湾总督府铁道部引进的B6型(日语:国鉄2100形蒸気機関車)饱合式机车(即日本国铁2120型(日本或英国制)与2500型(美国制))。引进时编为80型,台铁接收后编为CK80型。
  • 纽约州法院系统纽约州法院系统(Judiciary of New York、New York State Unified Court System)是指美国纽约州的州法院系统,总部位于州首府奥尔巴尼。其分为三级:州上诉法院(纽约上诉法院)、中间
  • 新爱尔兰岛新爱尔兰岛(New Ireland island,巴布亚皮钦语:Niu Ailan),属于巴布亚新几内亚的一个岛屿,是太平洋西南部俾斯麦群岛主要岛屿之一,位于新不列颠岛东北,隔圣乔治海峡与其相望,全岛东西
  • 亓官姓亓官姓(“亓”,拼音:qí,注音:ㄑ一ˊ,粤拼:kei4,音同“其”,是“其”的古字)为汉字复姓。亓官姓的来源是来自一个周朝专门掌管“丌”的官名,“丌”通“笄”,笄是指古代一种夹住头发的东
  • 中央通 (东京都)中央通是由日本东京都台东区及中央区之间的一条街道,通过上野站周边、上野广小路、秋叶原、神田站、日本桥、京桥、银座等著名的繁华街及商业地,南抵新桥站,为东京都心的大动脉
  • 朱塞普·皮亚齐朱塞普·皮亚齐(意大利语:Giuseppe Piazzi,1746年7月7日-1826年7月22日),出生于意大利蓬泰伊恩瓦尔泰利纳,是一名神父,也是一位天文学家。他曾于1779年于罗马出任神学教授,一年后又在
  • 麦莉·赛勒斯音乐作品列表美国歌手麦莉·赛勒斯发行了五张录音室专辑、一张现场专辑、一张迷你专辑、28支单曲和7支推广单曲。麦莉以迪士尼频道电视连续剧《汉娜·蒙塔娜》为主角而闻名。截至2014年,
  • 巩昌镇巩昌镇,是中华人民共和国甘肃省定西市陇西县下辖的一个乡镇级行政单位。巩昌镇下辖以下地区:东城社区、南城社区、西城社区、北城社区、西郊社区、东郊社区、西街村、东街村、
  • 米歇尔·伊达尔戈米歇尔·伊达尔戈(法语:Michel Hidalgo,法语发音:.mw-parser-output .IPA{font-family:"Charis SIL","Doulos SIL","Linux Libertine","Segoe UI","Lucida Sans Unicode","Code2