生成模型

✍ dations ◷ 2025-11-19 22:21:54 #生成模型

在概率统计理论中, 生成模型是指能够随机生成观测数据的模型,尤其是在给定某些隐含参数的条件下。它给观测值和标注数据序列指定一个联合概率分布。在机器学习中,生成模型可以用来直接对数据建模(例如根据某个变量的概率密度函数进行数据采样),也可以用来建立变量间的条件概率分布。条件概率分布可以由生成模型根据贝叶斯定理形成。

香农 (1948) 给出了有一个英语双词频率表生成句子的例子。可以生成如“representing and speedily is an good”这种句子。一开始并不能生成正确的英文句子,但随着词频表由双词扩大为三词甚至多词,生成的句子也就慢慢的成型了。

生成模型的定义与判别模型相对应:生成模型是所有变量的全概率模型,而判别模型是在给定观测变量值前提下目标变量条件概率模型。因此生成模型能够用于模拟(即)模型中任意变量的分布情况,而判别模型只能根据观测变量得到目标变量的采样。判别模型不对观测变量的分布建模,因此它不能够表达观测变量与目标变量之间更复杂的关系。因此,生成模型更适用于无监督的任务,如分类和聚类。

典型的生成模型包括:

如果观测数据是由生成模型中采样的,那么最大化数据似然概率是一个常见的方法。但是,大部分统计模型只是近似于分布,如果任务的目标是在已知一部分变量的值的条件下,对另一部分变量的推断,那么可以认为这种模型近似造成了一些对于当前任务来说不必要的假设。在这种情况下,使用判别模型对条件概率函数建模可能更准确,尽管具体的应用细节会最终决定哪种方法更为适用。

相关

  • 十六雄国印度列国时代(梵语:महाजनपद,Mahajanapada,意为“大国”,约前600年—约前300年),是印度历史上的一个时期,前承印度吠陀时代。主要是十六大国并立争霸,这些大国主要分布在印度中
  • 加蒂诺加蒂诺(法语:Gatineau,/ˈɡætᵻnoʊ/,法语发音:.mw-parser-output .IPA{font-family:"Charis SIL","Doulos SIL","Linux Libertine","Segoe UI","Lucida Sans Unicode","Code20
  • 火星探测任务列表本表纪录世界各国有史以来的探测火星的各项任务,包含环绕、飞越、登陆任务。其中罗塞塔号及黎明号则是利用火星进行重力推进至其他天体。
  • 1949年1949年BAA选秀(1949 BAA draft)是国家篮球协会前身美国篮球协会所举行的第三次年度选秀。选秀于1949年3月21日举行。在本次选秀中,原有的11支球队联同新加入BAA的印第安纳波利
  • 列万·伊萨耶维奇·米尔佐扬列万·伊萨耶维奇·米尔佐扬(Левон Исаевич Мирзоян,1897年11月29日-1939年2月26日),苏联政治人物,苏联建国后的第一任哈萨克党委书记。
  • 杰佛瑞·丹墨杰佛瑞·莱昂内尔·达默(Jeffrey Lionel Dahmer,1960年5月21日-1994年11月28日)是美国著名连环杀手,在1978至1991年间共杀死、肢解了17名男子,被称为密尔沃基食人魔(Milwaukee Cann
  • 康志杰康志杰(1920年-2012年5月22日),曾用名康国兰,男,直隶定县人,中华人民共和国政治人物,曾任宁夏回族自治区人民政府副主席,安徽省人民政府副省长,安徽省人大常委会副主任。
  • 新旧间新旧间(韩语:신구간)是朝鲜半岛济州特别自治道的传统民俗节日。时间在二十四节气大寒之后第5天(1月25日前后)至立春之前3天(2月1日前后),恰值旧季节到新季节之间的过渡阶段,也是济州
  • 007的座驾在“007”系列电影中,Q博士为邦德配备了一系列座驾。邦德配备的一些最值得注意的座驾都经过了大量的改装,这些改装后的邦德座驾拥有武器系统,反追踪系统,多种运输方式和各种其它
  • 市古尚三市古尚三(日语:いちこ しょうぞう,1917年11月13日-2014年2月16日),日本爱知县人,日本经济学家,中国经济史专家。1941年,毕业于拓殖大学商学部。之后留校担任教授。1973年,担任拓殖大学研究所长。1977年,担任副校长。1984年,担任日本私立短期大学协会理事。2014年2月16日,在东京都去世,享年98岁。