生成模型

✍ dations ◷ 2025-07-07 07:58:24 #生成模型

在概率统计理论中, 生成模型是指能够随机生成观测数据的模型,尤其是在给定某些隐含参数的条件下。它给观测值和标注数据序列指定一个联合概率分布。在机器学习中,生成模型可以用来直接对数据建模(例如根据某个变量的概率密度函数进行数据采样),也可以用来建立变量间的条件概率分布。条件概率分布可以由生成模型根据贝叶斯定理形成。

香农 (1948) 给出了有一个英语双词频率表生成句子的例子。可以生成如“representing and speedily is an good”这种句子。一开始并不能生成正确的英文句子,但随着词频表由双词扩大为三词甚至多词,生成的句子也就慢慢的成型了。

生成模型的定义与判别模型相对应:生成模型是所有变量的全概率模型,而判别模型是在给定观测变量值前提下目标变量条件概率模型。因此生成模型能够用于模拟(即)模型中任意变量的分布情况,而判别模型只能根据观测变量得到目标变量的采样。判别模型不对观测变量的分布建模,因此它不能够表达观测变量与目标变量之间更复杂的关系。因此,生成模型更适用于无监督的任务,如分类和聚类。

典型的生成模型包括:

如果观测数据是由生成模型中采样的,那么最大化数据似然概率是一个常见的方法。但是,大部分统计模型只是近似于分布,如果任务的目标是在已知一部分变量的值的条件下,对另一部分变量的推断,那么可以认为这种模型近似造成了一些对于当前任务来说不必要的假设。在这种情况下,使用判别模型对条件概率函数建模可能更准确,尽管具体的应用细节会最终决定哪种方法更为适用。

相关

  • 陈光远陈光远(1873年10月8日-1939年)字秀峰,直隶省武清县崔黄口(今属天津市)人。中华民国军事将领,曾任江西督军,为直系冯国璋的嫡系。和李纯、王占元并称“长江三督”。陈光远生于清朝同
  • 牛顿第一运动定律牛顿第一运动定律(Newton's first law of motion)表明,假若施加于某物体的外力为零,则该物体的运动速度不变。根据这定律,假设没有任何外力施加或所施加的外力之和为零,则运动中物
  • 囊泡貉藻囊泡貉藻(学名:),通俗名称是貉藻,为开花植物茅膏菜科貉藻属的唯一现生种。本种以小型水生无脊椎动物为食,运用类似捕蝇草的捕虫夹,陷阱排在中心环绕的轮生叶上,可自由运动的茎,通俗称
  • GitLabGitLab 是由 GitLab Inc.开发,一款基于 Git 的完全集成的软件开发平台(fully integrated software development platform)。 另外,GitLab 且具有wiki以及在线编辑、issue跟踪功
  • 大公国大公国(拉丁语:Magnus Dux;德语:Großherzogtum;意大利语:Gran Duca;法语:Grand-duché;立陶宛语:Didysis kunigaikštis;波兰语:Wielkie księstwo),是一种在帝制范围之内保持自治的君主
  • 王佐 (资政院)王佐(1853年-1931年)字寄庼,浙江上虞丰惠镇人,清末民初学者、政治人物。王佐祖居上虞县城北王婆岭。1889年,王佐中清朝光绪已丑恩科举人。中举后,他迁居丰惠县前街。他的经学及小学
  • 多米尼科·奇马罗萨多米尼科·奇马罗萨(意大利语:Domenico Cimarosa,1749年12月17日-1801年1月11日),意大利歌剧作曲家。奇马罗萨1772年毕业于那不勒斯音乐学院,开始创作歌剧,1787年赴俄任圣彼得堡宫廷
  • 城惠理子城惠理子(日语:城 恵理子,1998年11月27日-)是一名日本女偶像歌手,为女子团体NMB48的Team BII成员之一。城出身于兵库县, 昵称为“ジョー”。隶属于经纪公司Showtitle旗下。2011年2
  • 宋世德宋世德(1857年-1921年),字辅仁,别号云鹤,清朝大兴(今北京)人,宋氏形意拳宗师宋世荣之弟,与兄长宋世荣同为李洛能门下八大弟子之一。宋世德少时与兄长随父宋永禄迁居山西太谷,学习钟表技
  • 希乌马希乌马(爱沙尼亚语:Hiiumaa vald)是爱沙尼亚希乌县的一个乡村型市镇,也是希乌县的唯一市镇,位于希乌马岛上。行政中心为凯尔德拉镇。市镇面积为1032平方公里,2021年时人口数量为9,514人。希乌马市镇是在2017年10月15日举行的市镇议会选举后将原先的埃马斯泰、希乌、凯伊纳和皮哈莱帕四个市镇合并而成的。新的市镇包括凯尔德拉镇、两个小镇和182个村庄。