概率模型

✍ dations ◷ 2025-09-19 00:58:14 #机器学习

几率模型(Statistical Model,也称为Probabilistic Model)是用来描述不同随机变量之间关系的数学模型,通常情况下刻画了一个或多个随机变量之间的相互非确定性的几率关系。从数学上讲,该模型通常被表达为 ( Y , P ) {\displaystyle (Y,P)} ,其中 Y {\displaystyle Y} 是观测集合用来描述可能的观测结果, P {\displaystyle P} Y {\displaystyle Y} 对应的几率分布函数集合。若使用几率模型,一般而言需假设存在一个确定的分布 P {\displaystyle P} 生成观测数据 Y {\displaystyle Y} 。因此通常使用统计推断的办法确定集合 P {\displaystyle P} 中谁是数据产生的原因。

大多数统计检验都可以被理解为一种几率模型。例如,一个比较两组数据均值的学生t检验可以被认为是对该几率模型参数是否为0的检测。此外,检验与模型的另一个共同点则是两者都需要提出假设并且误差在模型中常被假设为正态分布。

概率模型 P {\displaystyle {\mathcal {P}}} 是一个概率分布函数或密度函数的集合。可分为参数模型,无参数和半参数模型。

参数模型是一组由有限维参数构成的分布集合 P = { P θ : θ Θ } {\displaystyle {\mathcal {P}}=\{\mathbb {P} _{\theta }:\theta \in \Theta \}} 。其中 θ {\displaystyle \theta } 是参数,而 Θ R d {\displaystyle \Theta \subseteq \mathbb {R} ^{d}} 是其可行欧几里得子空间。概率模型可被用来描述一组可产生已知采样数据的分布集合。例如,假设数据产生于唯一参数的高斯分布,则我们可假设该概率模型为 P = { P ( x ; μ , σ ) = 1 2 π σ exp { 1 2 σ 2 ( x μ ) 2 } : μ R , σ > 0 } {\displaystyle {\mathcal {P}}=\{\mathbb {P} (x;\mu ,\sigma )={\frac {1}{{\sqrt {2\pi }}\sigma }}\exp \left\{-{\frac {1}{2\sigma ^{2}}}(x-\mu )^{2}\right\}:\mu \in \mathbb {R} ,\sigma >0\}}

无参数模型则是一组由无限维参数构成的概率分布函数集合,可被表示为 P = { all distributions } {\displaystyle {\mathcal {P}}=\{{\text{all distributions}}\}}

相比于无参数模型和参数模型,半参数模型也由无限维参数构成,但其在分布函数空间内并不紧密。例如,一组混叠的高斯模型。确切的说,如果 d {\displaystyle d} 是参数的维度, n {\displaystyle n} 是数据点的大小,如果随着 d {\displaystyle d\rightarrow \infty } n {\displaystyle n\rightarrow \infty } d / n 0 {\displaystyle d/n\rightarrow 0} ,则我们称之为半参数模型。

相关

  • 巴里巴里(意大利语:Bari)是意大利南部第二大城市,面积116平方公里,人口326,201人(2001年)。巴里是普利亚大区首府,位处亚得里亚海,也是巴里省的首府。1990年代,巴里的人口发展和国家总趋势
  • 斯特拉斯堡大学斯特拉斯堡大学(法语:Université de Strasbourg,德语:Universität Straßburg,简称:Unistra或UDS)是坐落于法国阿尔萨斯大区首府斯特拉斯堡的一所多学科综合性公立大学。成立于15
  • 印加人印加人(Inca),或译印卡人,南美洲古代印第安人。属蒙古人种美洲支。使用克丘亚语。“印加”(Inca)的意思是“太阳的子孙”。主要生活在安第斯山脉中段,中心在秘鲁的库斯科城。印加人
  • 犁耙犁是一种耕作的农具,用途是破碎土块并耕出槽沟,从而为播种做好准备。犁也可以将较深层的土翻到表面上。犁是在一根横梁端部的厚重的刃构成,通常系在一组牵引它的牲畜或机动车上
  • 哈里发国家哈里发国(阿拉伯语:خلافة‎,意为“继承”)是由最高宗教和政治领袖哈里发领导的伊斯兰国,穆斯林世界存在的穆斯林帝国通常被称为哈里发国。从概念上说,哈里发国是代表全部虔诚
  • 角川书店角川书店(日语:角川書店、英语:Kadokawa Shoten)是日本著名的出版社之一,总部位于东京千代田区。现是角川集团旗下的事业品牌。
  • 范德梅尔西蒙·范德梅尔(荷兰语:Simon van der Meer,1925年11月24日-2011年3月4日),荷兰物理学家,因发展出随机冷凝技术,而促使意大利物理学家卡洛·鲁比亚发现W及Z玻色子。范德梅尔1925年出
  • 性期望性欲,指对性的渴望。一般科学家认为,性欲是一种本能欲望,对于繁殖下一代有利。至于对大多数动物而言,性欲只存在于发情期时,而动物的发情期通常都是季节性的(例如春天)。对于某些宗
  • 圣战者圣战者(即阿拉伯语:مجاهد‎,拉丁化:muǧāhid,英语:Mujahid,意为奋战者)指的是参与圣战的斗士。复数形为Mujahideen(阿拉伯语:مجاهدين‎,拉丁化:muǧāhidīn)。这个字是来自
  • 黄道蟹总科黄道蟹总科(学名:Cancroidea)是短尾下目下的一个总科,原来有六个科,现时只有近圆蟹科和黄道蟹科两个科。黄道蟹总科之下现时只有两个科黄道蟹总科原来有六个科,除了上述两个科以外