决策边界

✍ dations ◷ 2025-10-06 05:28:52 #分类算法,统计分类,模式识别

决策边界或决策面(decision surface)是统计分类问题中的一个超曲面,把向量空间(作为特征空间)划分为两个集合,分别对应两个分类。

如果决策面是超平面,那么这个分类问题是线性的,分类是线性可分(英语:linearly separable)的。

人工神经网络或感知器的反向传播算法,网络可学到的决策边界的类型由隐含层数决定。

如果没有隐含层,那么只能学习线性问题。如有一个隐含层,使用万能逼近定理(英语:Universal approximation theorem)可学到Rn的紧子集的任何连续函数,因此可学到任意的分类边界。

支持向量机 能找到一个超平面,把特征空间分为具有最大间隔(英语:maximum-margin hyperplane)的2个类。如果问题在最初不是线性可分的,通过核方法(英语:kernel trick)把它映射到高维空间变为线性可分。

神经网络通过分类边界学习来极小化经验误差(empirical error)。支持向量机 通过分类边界学习来极大化经验间隔(maximizes the empirical margin)。

相关

  • 宇宙飞行员航天员是指接受航天训练后,指挥、操纵或搭乘航天器的人员。在美国,以旅行高度超过海拔80公里(50英里)的人被称为“astronaut”。国际航空联合会(FAI)定义的宇宙航行则需超过100公
  • 荷兰体育荷兰1,700万人口中,有约450万人加入了体育团体。三分之二以上的荷兰人每个礼拜参加至少一次体育活动。荷兰国内参加人数最多的体育运动是足球。荷兰国家足球队是世界强队,曾经
  • 酯交换法在有机化学中,酯交换是指:酯的基团R″被醇的基团R′取代的过程。酯交换反应又称酯的醇解反应。这些反应通常加入酸或碱催化剂进行催化。反应同样可以通过酶尤其是脂肪酶(E.C.3.
  • 海牙密使事件海牙密使事件(朝鲜语:헤이그 특사 사건/헤이그 特使 事件)1907年,万国和平会议在荷兰海牙召开,大韩帝国皇帝高宗秘密派遣前议政府参赞李相卨(xiè)、前平理院检事李儁(jùn)与前驻
  • 阿利乌教派阿利乌教派(英语:Arianism),又译阿利乌派,即阿利乌主义,是4世纪亚历山大港正教会的包加里教区长老阿利乌及其支持者的基督徒派别,故称阿利乌派。认为《圣经》的启示说明耶稣次于天
  • 剑桥大学克莱尔学堂剑桥大学克莱尔学堂(英语:Clare Hall, Cambridge) 是剑桥大学的一个学院。克莱尔学堂是剑桥大学两所仅招收研究生的学院中的一所,另一所是达尔文学院。
  • 乌克兰饺子乌克兰饺子(乌克兰语:варе́ник、复数:варе́ники),也译甜馅饺子,是一种流行于乌克兰的饺子。通常呈半圆形。饺子皮是未发酵的面皮;馅料包括马铃薯、肉类、干酪、蘑
  • 塞西莉·夏米娜德塞西莉·露易丝·斯蒂芬妮·夏米娜德(法语:Cécile Louise Stéphanie Chaminade,1857年8月8日-1944年4月13日),法国作曲家,钢琴家。8岁就开始作曲,但由于父亲的阻挠未能进入音乐学
  • 郑继之郑继之(1535年-1623年),字伯孝,号鸣岘,襄阳人。明朝政治人物。郑继之为嘉靖四十四年(1565年)进士。初任余干知县,人称郑铁耳。迁户部主事,舟次九江,大父告殂。服阕,补江西道监察御史,属于
  • 经验风险最小化经验风险最小化 (ERM)是统计学习理论里的一项原则,该原则下有一系列学习算法 ,经验风险最小化用于为这些算法的性能提供理论上的界。核心思想是我们无法确切知道算法在实际中的