生成模型

✍ dations ◷ 2025-11-12 22:03:15 #生成模型

在概率统计理论中, 生成模型是指能够随机生成观测数据的模型,尤其是在给定某些隐含参数的条件下。它给观测值和标注数据序列指定一个联合概率分布。在机器学习中,生成模型可以用来直接对数据建模(例如根据某个变量的概率密度函数进行数据采样),也可以用来建立变量间的条件概率分布。条件概率分布可以由生成模型根据贝叶斯定理形成。

香农 (1948) 给出了有一个英语双词频率表生成句子的例子。可以生成如“representing and speedily is an good”这种句子。一开始并不能生成正确的英文句子,但随着词频表由双词扩大为三词甚至多词,生成的句子也就慢慢的成型了。

生成模型的定义与判别模型相对应:生成模型是所有变量的全概率模型,而判别模型是在给定观测变量值前提下目标变量条件概率模型。因此生成模型能够用于模拟(即)模型中任意变量的分布情况,而判别模型只能根据观测变量得到目标变量的采样。判别模型不对观测变量的分布建模,因此它不能够表达观测变量与目标变量之间更复杂的关系。因此,生成模型更适用于无监督的任务,如分类和聚类。

典型的生成模型包括:

如果观测数据是由生成模型中采样的,那么最大化数据似然概率是一个常见的方法。但是,大部分统计模型只是近似于分布,如果任务的目标是在已知一部分变量的值的条件下,对另一部分变量的推断,那么可以认为这种模型近似造成了一些对于当前任务来说不必要的假设。在这种情况下,使用判别模型对条件概率函数建模可能更准确,尽管具体的应用细节会最终决定哪种方法更为适用。

相关

  • 光放大器光放大器是光纤通信系统中能对光信号进行放大的一种子系统产品。光放大器的原理基本上是基于激光的受激辐射,通过将泵浦光的能量转变为信号光的能量实现放大作用。光放大器自
  • 方剂方剂是中医师在中医理论的指导下,经过辨证审因、决定治法,选择适当的中药,按组方原则,酌定用量、用法,配伍而成的。简称为“方”。最早记载方剂的医书是汉初的《五十二病方》。《
  • 量化宽松经济政策财政政策 · 货币政策贸易政策 · 投资政策农业政策 · 产业政策能源政策 · 社会政策政策组合税收政策 · 预算政策政府收入 · 政府支出政府预算 · 赤字政府债
  • 李师道李师道(?-819年),高丽人,李氏割据的末任淄青节度使。 后被部将刘悟发动兵变,斩杀。祖父是辽西高句丽族李正已。淄青(平卢)(今山东一带)节度使李纳之子,李师古之异母弟,师古尝说他:“是不
  • 猬虾猬虾(学名:),亦称姬虾、美人虾、樱花虾、拳师虾,是猬虾属的一种虾。猬虾分布于几乎整个泛热带地区, 在一些温带地区也有分布。主要生活在从加拿大到巴西的大西洋海域(包括墨西哥湾)
  • 菲利普实验菲利普实验是一项1972年在安大略多伦多(Toronto, Ontario)办理的超心理学实验,为了确定实验对象是否能透过人类的希望,跟虚构出来的鬼进行交流。这个实验由数学家A. R. G. Owen
  • 幸运钥匙《幸运钥匙》(韩语:럭키、英语:Lucky Key)是2016年10月13日上映的一部韩国喜剧电影,翻拍自2012年日本电影《落KEY人生》,讲述一名杀手(崔亨旭,由柳海真饰演)因在澡堂踩到香皂而摔倒失
  • 台湾地区环线高速公路台湾环线高速公路,中国国家高速公路网编号G99,是中华人民共和国政府对行政区划中未实际管辖的台湾省,单方面径行规划的高速公路。环线规划路径为台北-台中-高雄-台东-花莲-台北。因
  • 田光烈 (韩国)田光烈(韩语:전광렬,1960年2月11日-),韩国男演员,名字常被音译为全光烈。1980年透过参加大邱TBC电视台第22期艺员训练班入行。曾主演多套受欢迎的电视剧,如:《医道》饰演许浚、《朱蒙
  • 马克·德索尼尔马克·德索尼尔(Mark DeSaulnier;1952年3月31日-)是美国的一位政治人物。自2015年开始,他是加利福尼亚州第11选举区选出的美国众议院议员。他的党籍是民主党。在当选国会议员之前