特征选择

✍ dations ◷ 2025-08-27 04:36:22 #特征选择

在机器学习和统计学中,特征选择(英语:feature selection)也被称为变量选择、属性选择 或变量子集选择 。它是指:为了构建模型而选择相关特征(即属性、指标)子集的过程。使用特征选择技术有三个原因:

要使用特征选择技术的关键假设是:训练数据包含许多 或 的特征,因而移除这些特征并不会导致丢失信息。 或 特征是两个不同的概念。如果一个特征本身有用,但如果这个特征与另一个有用特征强相关,且那个特征也出现在数据中,那么这个特征可能是的。

特征选择技术与特征提取有所不同。特征提取是从原有特征的功能中创造新的特征,而特征选择则只返回原有特征中的子集。特征选择技术的常常用于许多特征但样本(即数据点)相对较少的领域。特征选择应用的典型用例包括:解析书面文本和微阵列数据,这些场景下特征成千上万,但样本只有几十到几百个。

特征选择算法可以被视为搜索技术和评价指标的结合。前者提供候选的新特征子集,后者为不同的特征子集打分。最简单的算法是测试每个特征子集,找到究竟哪个子集的错误率最低。这种算法需要穷举搜索空间,难以算完所有的特征集,只能涵盖很少一部分特征子集。选择何种评价指标很大程度上影响了算法。而且,通过选择不同的评价指标,可以把特征选择算法分为三类:包装类、过滤类和嵌入类方法

传统的统计学中,特征选择的最普遍的形式是逐步回归,这是一个包装类技术。它属于贪心算法,每一轮添加该轮最优的特征或者删除最差的特征。主要的调控因素是决定何时停止算法。在机器学习领域,这个时间点通常通过交叉验证找出。在统计学中,某些条件已经优化。因而会导致嵌套引发问题。此外,还有更健壮的方法,如分支和约束和分段线性网络。

相关

  • 王正中王正中(1936年2月10日-2017年8月22日),药理学与寄生虫学权威,中央研究院院士(第19届生命科学组)。童年时曾感染寄生虫,任职于美国默克药厂时,发现治疗河盲症的机制,透过药厂与国际卫生
  • 磨刀石磨刀石,又称砥砺、砺石,是一种工具。刀具经使用后刀锋易变钝,需在磨刀石上来回拉动磨利。其材质分有金刚石、氧化锆等等。磨刀也属于一种技术,没有经过一定的练习,易使金属部分过
  • 地幔熱柱地幔热柱(Mantle plume)或热柱或地幔柱是地球等行星地幔热对流的一种方式。较热的岩石由地幔底部一路上升至地幔顶部,此时岩石顶部会部分熔融,岩浆进而喷出地表,而这可能是热点或
  • 约阿希姆·拉夫约瑟夫·约阿希姆·拉夫(德语:Joseph Joachim Raff,1822年5月27日-1882年6月24日),瑞士作曲家,钢琴家,音乐教育家。早年自学音乐,后受到门德尔松和舒曼的推荐,并出任李斯特的助手。187
  • TrueCryptTrueCrypt是一款用于动态加密(OTFE)的免费开源软件。它可以在一个文件中创建一个虚拟的加密磁盘,或加密一个分区或整个存储设备。TrueCrypt支持常见操作系统,如:Microsoft Window
  • 胡成立胡成立,字信之,贵州贵阳人,清朝政治人物、进士出身。光绪十六年(1890年)清德宗亲政庚寅恩科进士,二甲一百二十名,同年五月,著主事,分部学习,后官礼部主事,改广西知州。
  • 忌部氏日本古代在朝廷中掌理“祭祀”的部门称为忌部,其后人以此为姓,遂成为日本的氏族之一。忌部氏在大化革新以前,与中臣氏同为掌管宫廷祭祀的工作。此外,据章太炎《訄书·清儒》中,又
  • 金宰焕金宰焕(韩语:김재환,1988年9月22日-),是韩国的棒球选手之一,目前效力于韩国职棒斗山熊队,守备位置为外野手。【一军】71 李到炯(朝鲜语:이도형 (야구인)) | 73 郑载勋(朝鲜语:정재훈 (198
  • 通政使通政,又可称为通政使。为中国明朝、清朝中央官制之一,品等为正三品。该职位为通政使司的主官,职责为审阅校阅题本,辖下有通政副使、通政参议等从官。除此,还有知事、巡察、率役等辅佐人员。秦汉(洪武废)
  • 日月人鱼《日月人鱼》(英语:,前称作)是一部2022年美国动作冒险奇幻电影,由史恩·麦纳玛拉(英语:Sean McNamara (filmmaker))执导,贝瑞·博曼(Barry Berman)和詹姆斯·夏慕斯编写剧本,改编自1997年冯达·N·麦金太尔(英语:Vonda N. McIntyre)小说《月亮与太阳(英语:The Moon and the Sun)》。剧情讲述法国国王路易十四囚禁了毕生追寻的人鱼,并试图夺取其生命能量,直到他的私生女发现此举,导致事态一发不可收拾。主要拍摄在2014年4月上旬法国凡