概率模型

✍ dations ◷ 2025-09-06 20:33:18 #机器学习

几率模型(Statistical Model,也称为Probabilistic Model)是用来描述不同随机变量之间关系的数学模型,通常情况下刻画了一个或多个随机变量之间的相互非确定性的几率关系。从数学上讲,该模型通常被表达为 ( Y , P ) {\displaystyle (Y,P)} ,其中 Y {\displaystyle Y} 是观测集合用来描述可能的观测结果, P {\displaystyle P} Y {\displaystyle Y} 对应的几率分布函数集合。若使用几率模型,一般而言需假设存在一个确定的分布 P {\displaystyle P} 生成观测数据 Y {\displaystyle Y} 。因此通常使用统计推断的办法确定集合 P {\displaystyle P} 中谁是数据产生的原因。

大多数统计检验都可以被理解为一种几率模型。例如,一个比较两组数据均值的学生t检验可以被认为是对该几率模型参数是否为0的检测。此外,检验与模型的另一个共同点则是两者都需要提出假设并且误差在模型中常被假设为正态分布。

概率模型 P {\displaystyle {\mathcal {P}}} 是一个概率分布函数或密度函数的集合。可分为参数模型,无参数和半参数模型。

参数模型是一组由有限维参数构成的分布集合 P = { P θ : θ Θ } {\displaystyle {\mathcal {P}}=\{\mathbb {P} _{\theta }:\theta \in \Theta \}} 。其中 θ {\displaystyle \theta } 是参数,而 Θ R d {\displaystyle \Theta \subseteq \mathbb {R} ^{d}} 是其可行欧几里得子空间。概率模型可被用来描述一组可产生已知采样数据的分布集合。例如,假设数据产生于唯一参数的高斯分布,则我们可假设该概率模型为 P = { P ( x ; μ , σ ) = 1 2 π σ exp { 1 2 σ 2 ( x μ ) 2 } : μ R , σ > 0 } {\displaystyle {\mathcal {P}}=\{\mathbb {P} (x;\mu ,\sigma )={\frac {1}{{\sqrt {2\pi }}\sigma }}\exp \left\{-{\frac {1}{2\sigma ^{2}}}(x-\mu )^{2}\right\}:\mu \in \mathbb {R} ,\sigma >0\}}

无参数模型则是一组由无限维参数构成的概率分布函数集合,可被表示为 P = { all distributions } {\displaystyle {\mathcal {P}}=\{{\text{all distributions}}\}}

相比于无参数模型和参数模型,半参数模型也由无限维参数构成,但其在分布函数空间内并不紧密。例如,一组混叠的高斯模型。确切的说,如果 d {\displaystyle d} 是参数的维度, n {\displaystyle n} 是数据点的大小,如果随着 d {\displaystyle d\rightarrow \infty } n {\displaystyle n\rightarrow \infty } d / n 0 {\displaystyle d/n\rightarrow 0} ,则我们称之为半参数模型。

相关

  • 行为心理学行为主义(英语:Behaviorism)又称作行为论,是20世纪初起源于美国的心理学流派,主张心理学应该研究可以被观察和直接测量的行为,反对研究没有科学根据的意识。其主要特色为以系统方
  • 铸造铸造是人类掌握比较早的一种热加工工艺,已有约6000年的历史。在中国地区的史前人类约在公元前1700~前1000年之间已进入青铜铸件的全盛期,工艺上已达到相当高的水准。铸造是指将
  • 香 (消歧义)香可指:
  • 溪菜见内文溪菜目(学名:Prasiolales)为藻类植物之一植物目。该植物于植物分类表上,归于绿藻门(Chlorophyta)共球藻纲 (Trebouxiophyceae),同纲者尚有小球藻目(Chlorellales)等藻类目。本目
  • 丁噻隆丁噻隆(英语:Tebuthiuron)是一种尿素类非选择性广谱除草剂,由美国陶氏益农公司生产与销售,用于控制木本与草本杂草。丁噻隆由植物的根吸收,转运到叶中,抑制光合作用。美国环保署认
  • 中东呼吸系统综合征中东呼吸综合征(英文缩写:MERS)是一种由中东呼吸综合征冠状病毒(前称“2012年新型冠状病毒”)所引起的新型人畜共患的呼吸系统传染病。患者常见的症状为发热、咳嗽、喉咙痛或胸痛
  • 美国联邦司法部美国司法部(英语:United States Department of Justice),是美国政府的一个部,其部门长官享有阁员地位。负责的任务是保障法律的施行,维护美国政府的法律利益和保障法律对美国所有
  • TVBS欢乐台TVBS欢乐台,是台湾TVBS旗下的娱乐节目频道。
  • 伊斯兰法庭联盟伊斯兰法院联盟(索马里语:Midowga Maxkamadaha Islaamiga,阿拉伯语:اتحاد المحاكم الإسلامية‎,英语:Islamic Courts Union,缩写:ICU),或译联合伊斯兰法院、伊斯
  • ATC代码 (N07)A·B·C·D·G·H·QI·J·L·M·N·P·R·S·VATC代码N07(其它神经系统用药)是解剖学治疗学及化学分类系统的一个药物分组,这是由世界卫生组织药物统计方法整合中心(The WHO Co