概率模型

✍ dations ◷ 2025-06-28 22:47:36 #机器学习

几率模型(Statistical Model,也称为Probabilistic Model)是用来描述不同随机变量之间关系的数学模型,通常情况下刻画了一个或多个随机变量之间的相互非确定性的几率关系。从数学上讲,该模型通常被表达为 ( Y , P ) {\displaystyle (Y,P)} ,其中 Y {\displaystyle Y} 是观测集合用来描述可能的观测结果, P {\displaystyle P} Y {\displaystyle Y} 对应的几率分布函数集合。若使用几率模型,一般而言需假设存在一个确定的分布 P {\displaystyle P} 生成观测数据 Y {\displaystyle Y} 。因此通常使用统计推断的办法确定集合 P {\displaystyle P} 中谁是数据产生的原因。

大多数统计检验都可以被理解为一种几率模型。例如,一个比较两组数据均值的学生t检验可以被认为是对该几率模型参数是否为0的检测。此外,检验与模型的另一个共同点则是两者都需要提出假设并且误差在模型中常被假设为正态分布。

概率模型 P {\displaystyle {\mathcal {P}}} 是一个概率分布函数或密度函数的集合。可分为参数模型,无参数和半参数模型。

参数模型是一组由有限维参数构成的分布集合 P = { P θ : θ Θ } {\displaystyle {\mathcal {P}}=\{\mathbb {P} _{\theta }:\theta \in \Theta \}} 。其中 θ {\displaystyle \theta } 是参数,而 Θ R d {\displaystyle \Theta \subseteq \mathbb {R} ^{d}} 是其可行欧几里得子空间。概率模型可被用来描述一组可产生已知采样数据的分布集合。例如,假设数据产生于唯一参数的高斯分布,则我们可假设该概率模型为 P = { P ( x ; μ , σ ) = 1 2 π σ exp { 1 2 σ 2 ( x μ ) 2 } : μ R , σ > 0 } {\displaystyle {\mathcal {P}}=\{\mathbb {P} (x;\mu ,\sigma )={\frac {1}{{\sqrt {2\pi }}\sigma }}\exp \left\{-{\frac {1}{2\sigma ^{2}}}(x-\mu )^{2}\right\}:\mu \in \mathbb {R} ,\sigma >0\}}

无参数模型则是一组由无限维参数构成的概率分布函数集合,可被表示为 P = { all distributions } {\displaystyle {\mathcal {P}}=\{{\text{all distributions}}\}}

相比于无参数模型和参数模型,半参数模型也由无限维参数构成,但其在分布函数空间内并不紧密。例如,一组混叠的高斯模型。确切的说,如果 d {\displaystyle d} 是参数的维度, n {\displaystyle n} 是数据点的大小,如果随着 d {\displaystyle d\rightarrow \infty } n {\displaystyle n\rightarrow \infty } d / n 0 {\displaystyle d/n\rightarrow 0} ,则我们称之为半参数模型。

相关

  • 拟车轮虫属拟车轮虫属的齿体由齿钩、齿锥和齿棘组成,齿钩嵌合疏松,口围绕度180-270度。
  • β逆转录病毒属β反转录病毒是反转录病毒科下的一个属,此属的病毒具有B型或C型的外观。老鼠乳癌病毒(mouse mammary tumour virus)就是一个例子。
  • 风疹疫苗风疹疫苗(英文:Rubella vaccine),是一种用于预防风疹的疫苗。其效力始于单一剂量后的两周,而且大约95%的人会得到免疫力。 有高免疫接种率的国家不再有风疹及先天性风疹综合征的
  • 片种电影类型(英语:Film Genre),也叫做“片种”,指的是基于电影的叙事元素和情感反应进行相似分类的电影类别。绝大部分电影类型的理论源自文学批评。电影的基本类别包括“虚构片”和
  • 胭脂虫胭脂虫(学名:Dactylopius coccus)原产于美洲。雌虫体内含胭脂红酸,可以用来制造绯红色(胭脂红)染料。胭脂虫是哥伦布交换(Columbian Exchange)之一。在地理大发现时代,在哥伦布发现美
  • 吴 淇吴淇,字伯其,睢州人,清朝政治人物。顺治十五年(1658年)戊戌进士,官至江苏镇江府同知。工诗,有《雨蕉斋诗集》。
  • 种化现代生物分类群体从它们的 共同祖先遗传分化的图示。进化论介绍(英语:Introduction to evolution) 演化的证据 共同起源 共同起源的证据群体遗传学 · 遗传多样性 突变 · 自
  • 产前发育产前(Prenatal)或产前发育(Prenatal development)是人类胚胎或胎儿在孕期的孕育过程,从受精,至诞生。通常,也可使用术语胚胎发育、胎儿发育,或胚胎学来表示。 胚胎发育始于受精
  • 咳血咳血又称为咯血,是一种症状,指肺或气管中的出血,经由咳嗽而吐出。多半是因为所吐出的痰中带有血丝而被发现。最常见的原因就是支气管炎、肺炎、肺肿瘤、肺结核等疾病。或是使用
  • 里斯顿里斯顿(Reston)是美国弗吉尼亚州费尔法克斯县的一个普查规定居民点,位于华盛顿特区都会区内。2010年人口58,404 人。这是一个国际知名的规划社区,成立于1964年。它更新了第二次