特征选择

✍ dations ◷ 2025-06-08 18:06:42 #特征选择

在机器学习和统计学中,特征选择(英语:feature selection)也被称为变量选择、属性选择 或变量子集选择 。它是指:为了构建模型而选择相关特征(即属性、指标)子集的过程。使用特征选择技术有三个原因:

要使用特征选择技术的关键假设是:训练数据包含许多 或 的特征,因而移除这些特征并不会导致丢失信息。 或 特征是两个不同的概念。如果一个特征本身有用,但如果这个特征与另一个有用特征强相关,且那个特征也出现在数据中,那么这个特征可能是的。

特征选择技术与特征提取有所不同。特征提取是从原有特征的功能中创造新的特征,而特征选择则只返回原有特征中的子集。特征选择技术的常常用于许多特征但样本(即数据点)相对较少的领域。特征选择应用的典型用例包括:解析书面文本和微阵列数据,这些场景下特征成千上万,但样本只有几十到几百个。

特征选择算法可以被视为搜索技术和评价指标的结合。前者提供候选的新特征子集,后者为不同的特征子集打分。最简单的算法是测试每个特征子集,找到究竟哪个子集的错误率最低。这种算法需要穷举搜索空间,难以算完所有的特征集,只能涵盖很少一部分特征子集。选择何种评价指标很大程度上影响了算法。而且,通过选择不同的评价指标,可以把特征选择算法分为三类:包装类、过滤类和嵌入类方法

传统的统计学中,特征选择的最普遍的形式是逐步回归,这是一个包装类技术。它属于贪心算法,每一轮添加该轮最优的特征或者删除最差的特征。主要的调控因素是决定何时停止算法。在机器学习领域,这个时间点通常通过交叉验证找出。在统计学中,某些条件已经优化。因而会导致嵌套引发问题。此外,还有更健壮的方法,如分支和约束和分段线性网络。

相关

  • 迦太基迦太基(腓尼基语:
  • 大众帕萨特大众帕萨特(Passat)是大众汽车旗下的一款中型车,从1973年生产至今。它在大众汽车的产品系列中介于高尔夫(Golf)/捷达(Jetta)和辉腾(Phaeton)之间。它在欧洲市场称为帕萨特,而在其他市场
  • 郑景顺 (演员)郑景顺(韩语:정경순,1963年9月15日-),韩国女演员。
  • 王进才王进才,明朝军事人物。最早为李自成部将。李自成死后,王进才等经过通城县向西南走,行经巴陵、平江、湘阴、浏阳、宁州等地。顺治元年(1644年)进才踞黔阳(今湖南怀化与会同之间)罗翁
  • 胶胎鳚胶胎鳚为辐鳍鱼纲鼬鱼目深海鼬鱼亚目裸鼬鱼科的其中一种。本鱼分布于全球各大洋深海底层。本鱼口几乎呈水平状。眼小或外表看不见。无腭骨。第一鳃弓的长鳃耙3~4。背鳍前背
  • 叶笛 (作家)叶笛(1931年9月21日-2006年5月9日),原名叶寄民,台湾诗人、作家、评论家、翻译工作者、教育工作者,台湾台南人。台南师范学校(现国立台南大学)毕业,后来到日本留学,在东京大学等校学习
  • 戎铁华戎铁华,祖籍广东惠来靖海镇,中山大学教授,中国国务院评定博士生导师,获国务院特殊津贴。为中华医学会肿瘤学分会副主任委员、中国医师协会胸外科医师分会副会长、中国抗癌协会食
  • 杰克·格利森杰克·格里森(英语:Jack Gleeson,1992年5月20日-)是一名爱尔兰演员,他出演过较著名的作品如HBO电视剧《冰与火之歌:权力游戏》。2012年,杰克暗示称自己将会退出演艺圈,他声称:“我很乐意当一名业余演员,不想再参演一些需要专业表演的角色。”2013年,杰克在出演冰与火之歌:权力游戏后将考虑息戏。因拍摄冰与火之歌:权力游戏而成名后的生活其实并非杰克想要的。2014年,杰克因出演冰与火之歌:权力游戏,而获得土星奖电视剧最佳年轻男演员的提名。2020年,杰克宣布参演Sara Pascoe(英
  • EncFSEncFS是一个基于FUSE的加密文件系统(英语:cryptographic filesystem),为自由软件。通过它可以将任意目录作为存储空间来透明地加密并存储文件。 挂载一个EncFS文件系统涉及到两个目录:源目录和挂载点。挂载点中的每个文件都是加密存储在源目录中的一个与之对应的文件。挂载点中的文件呈现未加密的样子,对应源目录中已加密的文件。源目录中会加密文件名。文件通过卷密钥加密,卷密钥可以存储在加密的源目录之内或之外。有一个密码机制用于解密该密钥。与其他磁盘加密软件(英语:disk encryp
  • 霍尔迪·阿尔瑙霍尔迪·阿尔瑙(西班牙语:Jordi Arnau,1970年4月7日-),西班牙男子曲棍球运动员。他曾代表西班牙国家队参加1996年夏季奥林匹克运动会曲棍球比赛,获得一枚银牌。弟弟哈维·阿尔瑙。Template:1998年男子曲棍球世界杯西班牙队阵容