训练集、验证集和测试集

✍ dations ◷ 2025-10-04 01:59:18 #机器学习,计算机科学

机器学习的普遍任务就是从数据中学习和构建模型(该过程称之为训练),并且能够在将来遇到的数据上进行预测。用于构建最终模型的数据集通常有多个;在构建模型的不同阶段,通常有三种数据集:训练集、验证集和测试集。

首先,模型在训练集(英语:training dataset)上进行拟合。对于监督式学习,训练集是由用来拟合参数(例如人工神经网络中神经元之间链接的权重)的样本组成的集合。在实践中,训练集通常是由输入向量(标量)和输出向量(标量)组成的数据对。其中输出向量(标量)被称为目标或标签。在训练过程中,当前模型会对训练集中的每个样本进行预测,并将预测结果与目标进行比较。根据比较的结果,学习算法会更新模型的参数。模型拟合的过程可能同时包括特征选择和参数估计。

接下来,拟合得到的模型会在第二个数据集——验证集(英语:validation dataset)——上进行预测。在对模型的超参数(英语:Hyperparameter_(machine_learning))(例如神经网络中隐藏层的神经元数量)进行调整时,验证集提供了对在训练集上拟合得到模型的无偏评估。验证集可用于正则化中的提前停止:在验证集误差上升时(这是在训练集上过拟合的信号),停止训练。不过,在实践中,由于验证集误差在训练过程中会有起伏,这种做法有时不奏效。由此,人们发明了一些规则,用做判定过拟合更好的信号。

最后,测试集(英语:test dataset)可被用来提供对最终模型的无偏评估。若测试集在训练过程中从未用到(例如,没有被用在交叉验证当中),则它也被称之为预留集。


相关

  • 12固体、 液体、 气体12族元素(常称锌族元素)是指元素周期表上第12族(ⅡB族)的元素,位于11族元素和硼族元素之间。12族元素包含锌(Zn)、镉(Cd)、汞(Hg)、鿔(Cn),均为过渡金属元素,其中鿔为人
  • 黄素核黄素,又称维生素B2,维他命B2,维生素G。分子式C17H20N4O6。它是人体必需的13种维生素之一,作为维生素B族的成员之一,微溶于水,可溶于氯化钠溶液,易溶于稀的氢氧化钠溶液。1879年英
  • 意大利空军意大利陆军 (陆军) 意大利海军 (海军) 意大利空军 (空军)意大利军队(Le Forze Armate italiane 缩写:F.F.AA)是意大利的武装部队,由意大利总统领导的最高国防委员会所
  • 四圣谛四圣谛 (梵文:चत्वारि आर्यसत्यानि,catvāri āryasatyāni;巴利语:cattāri ariyasaccāni;标准藏语:བདེན་པ་བཞི།),又称四真谛、四谛,四种神圣的谛,即
  • Nasub2/subSsub2/subOsub6/sub连二硫酸钠(Sodium dithionate,Na2S2O6)是无机化学的重要化合物。可以认为这里的硫处于+5氧化态 。连二硫酸钠不应与连二亚硫酸钠,Na2S2O4混淆,后者是一种完全不同的化合物,是一种
  • 数制记数系统,或称记数法或数制(numeral system、system of numeration),是使用一组数字符号来表示数的体系。一个理想的记数系统能够:记数系统可以按照以下方式分类:在木头、骨头或石
  • 透光云透光云(学名:Translucidus,缩写: tr ),是云的一类变种,指能够透过阳光的且成片分布的云,适用于高积云、高层云、层积云和层云这四类云属。与之相比,蔽光云不能透过阳光,漏光云的阳光
  • 福鼎福鼎市地处中国福建省东北部沿海,是宁德市下辖的县级市,北接浙江省。福鼎大多地方通行北片闽东语。大部地区通行闽东方言的桐山话;前岐、沙埕、贯岭、嵛山通闽南话,秦屿镇区、台
  • 银湖街道银湖街道于2013年6月28日挂牌成立,由原高桥镇、受降镇合并而来,为富阳区的第五个街道。街道办事处位于高桥东路28号(原高桥镇政府驻地)。街道区域面积158.3平方公里,常住户籍人口
  • Windows Vista开发历史新增的功能 移除的功能 版本 开发历史 批评Windows Vista的开发历史从2001年5月Windows XP发布前开始算起,直至2006年11月结束,历时长达5年半。微软公司原先计划于2003年开发