概率模型

✍ dations ◷ 2025-04-26 14:06:29 #机器学习

几率模型(Statistical Model,也称为Probabilistic Model)是用来描述不同随机变量之间关系的数学模型,通常情况下刻画了一个或多个随机变量之间的相互非确定性的几率关系。从数学上讲,该模型通常被表达为 ( Y , P ) {\displaystyle (Y,P)} ,其中 Y {\displaystyle Y} 是观测集合用来描述可能的观测结果, P {\displaystyle P} Y {\displaystyle Y} 对应的几率分布函数集合。若使用几率模型,一般而言需假设存在一个确定的分布 P {\displaystyle P} 生成观测数据 Y {\displaystyle Y} 。因此通常使用统计推断的办法确定集合 P {\displaystyle P} 中谁是数据产生的原因。

大多数统计检验都可以被理解为一种几率模型。例如,一个比较两组数据均值的学生t检验可以被认为是对该几率模型参数是否为0的检测。此外,检验与模型的另一个共同点则是两者都需要提出假设并且误差在模型中常被假设为正态分布。

概率模型 P {\displaystyle {\mathcal {P}}} 是一个概率分布函数或密度函数的集合。可分为参数模型,无参数和半参数模型。

参数模型是一组由有限维参数构成的分布集合 P = { P θ : θ Θ } {\displaystyle {\mathcal {P}}=\{\mathbb {P} _{\theta }:\theta \in \Theta \}} 。其中 θ {\displaystyle \theta } 是参数,而 Θ R d {\displaystyle \Theta \subseteq \mathbb {R} ^{d}} 是其可行欧几里得子空间。概率模型可被用来描述一组可产生已知采样数据的分布集合。例如,假设数据产生于唯一参数的高斯分布,则我们可假设该概率模型为 P = { P ( x ; μ , σ ) = 1 2 π σ exp { 1 2 σ 2 ( x μ ) 2 } : μ R , σ > 0 } {\displaystyle {\mathcal {P}}=\{\mathbb {P} (x;\mu ,\sigma )={\frac {1}{{\sqrt {2\pi }}\sigma }}\exp \left\{-{\frac {1}{2\sigma ^{2}}}(x-\mu )^{2}\right\}:\mu \in \mathbb {R} ,\sigma >0\}}

无参数模型则是一组由无限维参数构成的概率分布函数集合,可被表示为 P = { all distributions } {\displaystyle {\mathcal {P}}=\{{\text{all distributions}}\}}

相比于无参数模型和参数模型,半参数模型也由无限维参数构成,但其在分布函数空间内并不紧密。例如,一组混叠的高斯模型。确切的说,如果 d {\displaystyle d} 是参数的维度, n {\displaystyle n} 是数据点的大小,如果随着 d {\displaystyle d\rightarrow \infty } n {\displaystyle n\rightarrow \infty } d / n 0 {\displaystyle d/n\rightarrow 0} ,则我们称之为半参数模型。

相关

  • 存水弯存水弯,是U型、S型、或J形的管件装置,让废水及污水流进地下室筏基,并且阻止臭气及其他气体逆流或倒灌进室内, Alexander Cummings(英语:Alexander Cummings)在1775年发明S型弯的,但
  • Tlsub2/subS硫化亚铊是一价铊的硫化物,分子式为Tl2S。它在室温下会氧化,高温氧化时生成硫酸铊。硫化亚铊通常可以直接用铊和硫反应而成,也可以以硫化氢和氯化铊作用制取。
  • 地瓜叶番薯叶或称地瓜叶、甘薯叶,是旋花科番薯属植物番薯的叶,可作为蔬菜食用。早年种植番薯的农民为求物尽其用,割下番薯叶后多半将它煮熟。亦有农民只摘取嫩叶部分炒熟吃,或加入蒜末
  • 舌形动物类舌形动物类(学名:Pentastomida),又称五口动物类,是动物界的一个分类。属于无脊椎动物,介乎于环节动物和节肢动物之间,均为寄生性动物。其特征是体软、扁而长,无色,透明,无足。身长从数
  • 星际行星星际行星(英语:Interstellar planet),又称为流浪行星(Rogue planet)、游牧行星(nomad planet)、自由浮动行星(free-floating planet)、孤儿行星(Orphan planet)、孤独行星(Lonely planet),
  • ABC三原则ABC性教育(ABC strategy)也称为以ABC三原则(Abstinence, be faithful, use a condom),或是以禁欲为基础的性教育(abstinence-based sex education),是一种以守贞教育(性禁欲)为基础的
  • 红豆沙红豆沙可以指:
  • 普热米斯尔·奥托卡二世普热米斯尔·奥托卡二世( Přemysl Otakar II.,1230年-1278年8月26日)波希米亚国王(1253年-1278年在位)。他在位时期是波希米亚最强大的时代。普热米斯尔·奥托卡二世为温塞斯拉斯
  • 德克萨斯革命得克萨斯胜利得克萨斯革命(Texas Revolution)亦称得克萨斯独立战争(Texas War of Independence),是1835年10月2日至1836年4月21日间在墨西哥和当时其属地得克萨斯之间爆发的一场
  • 硫化亚锡硫化亚锡是一种无机化合物,化学式为SnS。它出现在罕见的硫锡矿中。硫化亚锡可由单质直接化合得到,为灰色晶体。如果将硫化氢通入Sn2+(如氯化亚锡)溶液中,可以得到暗棕色沉淀,为水