生成模型

✍ dations ◷ 2025-11-28 10:59:58 #生成模型

在概率统计理论中, 生成模型是指能够随机生成观测数据的模型,尤其是在给定某些隐含参数的条件下。它给观测值和标注数据序列指定一个联合概率分布。在机器学习中,生成模型可以用来直接对数据建模(例如根据某个变量的概率密度函数进行数据采样),也可以用来建立变量间的条件概率分布。条件概率分布可以由生成模型根据贝叶斯定理形成。

香农 (1948) 给出了有一个英语双词频率表生成句子的例子。可以生成如“representing and speedily is an good”这种句子。一开始并不能生成正确的英文句子,但随着词频表由双词扩大为三词甚至多词,生成的句子也就慢慢的成型了。

生成模型的定义与判别模型相对应:生成模型是所有变量的全概率模型,而判别模型是在给定观测变量值前提下目标变量条件概率模型。因此生成模型能够用于模拟(即)模型中任意变量的分布情况,而判别模型只能根据观测变量得到目标变量的采样。判别模型不对观测变量的分布建模,因此它不能够表达观测变量与目标变量之间更复杂的关系。因此,生成模型更适用于无监督的任务,如分类和聚类。

典型的生成模型包括:

如果观测数据是由生成模型中采样的,那么最大化数据似然概率是一个常见的方法。但是,大部分统计模型只是近似于分布,如果任务的目标是在已知一部分变量的值的条件下,对另一部分变量的推断,那么可以认为这种模型近似造成了一些对于当前任务来说不必要的假设。在这种情况下,使用判别模型对条件概率函数建模可能更准确,尽管具体的应用细节会最终决定哪种方法更为适用。

相关

  • 穆拉图·特肖梅穆拉图·特肖梅·沃图(阿姆哈拉语:ሙላቱ ተሾመ;1957年-)是埃塞俄比亚政治人物,前埃塞俄比亚总统。穆拉图·特肖梅生于埃塞俄比亚沃莱加省阿尔焦。1976年,穆拉图以公派生的身份来
  • 梁龙属梁龙属(学名:)是蜥脚下目梁龙科下的一属恐龙,它的第一副化石是由塞缪尔·温德尔·威利斯顿(Samuel Wendell Williston)所发现。属名是由奥塞内尔·查利斯·马什(Othniel Charles Ma
  • 埃马纽埃尔-约瑟夫·西哀士埃马纽埃尔-约瑟夫·西哀士(法语:Emmanuel-Joseph Sieyès,1748年3月3日-1836年6月20日),法兰西天主教会神父,法兰西大革命、法兰西执政府和法兰西第一帝国的主要理论家之一,法兰西
  • MBK娱乐MBK娱乐(韩语:MBK 엔터테인먼트;英语:MBK Entertainment),前身是金光洙代表的Core Contents Media。旗下艺人包括DIA,于2014年10月在 MBK 成立的契机统合成了一个大家庭。现任代表
  • 2014-15年也门政变 也门政府援助: 阿卜杜勒-马利克·胡塞 穆罕默德·阿卜杜勒-萨拉姆基地组织活动 (2011–15)(英语:al-Qaeda insurgency in Yemen)胡赛叛乱 (2014–15)也门内战 (2015–)胡塞在
  • 科林西亚酒店科林西亚酒店(俄语:Невский Палас)是俄罗斯圣彼得堡的一家五星级酒店。科林西亚酒店旧名涅瓦宫酒店,是圣彼得堡最高级的酒店之一,位于涅瓦大街上。科林西亚酒店和阿
  • 泰瑞·福克斯特里·福克斯(Terry Fox,全名为Terrance Stanley Fox,1958年7月28日-1981年6月28日)是一位加拿大运动员,希望马拉松的发起人。泰瑞·福克斯出生于加拿大马尼托巴省的温尼伯市,后随
  • 牛津大学圣史蒂芬院牛津大学圣史蒂芬院(St Stephen’s House, Oxford。当地称:Staggers)是牛津大学的一所永久私人学堂,由英国国教管理,教授神学。此院由牛津运动的成员成立于1876年,主要创始人是后
  • 冯汝弼冯汝弼(1498年-1577年),字惟良,号祐山,浙江省嘉兴府平湖县人,民籍,治《书经》,年三十四岁中式嘉靖十一年壬辰科第三甲第十八名进士。十月初七日生,行六,曾祖冯宗衍;祖冯澄;父冯俊,知县;母胡
  • 阿里骨阿里骨(1040年-1096年),于阗人,唃厮啰国第三代赞普。董毡养子。宋哲宗元祐二年(1087年),他和西夏密约,想用西夏之力收复被宋朝夺得的熙州河州六州,结果失败。次年,他向宋朝上表谢罪,恢复关系。他专宠西夏公主,好杀戮,修建寺院,虐待百姓。蕃文上书,要求与宋朝互不侵犯。绍圣三年(1096年),阿里骨去世。