贝叶斯推断

✍ dations ◷ 2025-07-01 09:19:58 #贝叶斯统计

贝叶斯推断(英语:Bayesian inference)是推论统计的一种方法。这种方法使用贝叶斯定理,在有更多证据及信息时,更新特定假设的概率。贝叶斯推断是统计学(特别是数理统计学)中很重要的技巧之一。贝叶斯更新(Bayesian updating)在序列分析中格外的重要。贝叶斯推断应用在许多的领域中,包括科学、工程学、哲学、医学、体育运动、法律等。在决策论的哲学中,贝叶斯推断和主观概率有密切关系,常常称为贝叶斯概率。

贝叶斯定理是由统计学家托马斯·贝斯(Thomas Bayes)根据许多特例推导而成,后来被许多研究者推广为一普遍的定理

贝叶斯推断将后验概率(考虑相关证据或数据后,某一事件的条件几率)推导为二个前件、先验概率(考虑相关证据或数据前,某一事件不确定性的几率)及似然函数(由概率模型推导而得)的结果。贝叶斯推断根据贝叶斯定理计算后验概率:

其中

针对不同的 H {\displaystyle \textstyle H} 数值,只有 P ( H ) {\displaystyle \textstyle P(H)} P ( E H ) {\displaystyle \textstyle P(E\mid H)} (都在分子)会影响 P ( H E ) {\displaystyle \textstyle P(H\mid E)} 的数值。假说的后验概率和其先验概率(固有似然率)和新产生的似然率(假说和新得到证据的相容性)乘积成正比。

贝叶斯定理也可以写成下式:

其中系数 P ( E H ) P ( E ) {\displaystyle \textstyle {\frac {P(E\mid H)}{P(E)}}} 可以解释成 E {\displaystyle E} H {\displaystyle H} 几率的影响。

贝叶斯推断最关键的点是可以利用贝斯定理结合新的证据及以前的先验几率,来得到新的几率(这和频率学派推断相反,频率论推论只考虑证据,不考虑先验几率)。

而且贝叶斯推断可以迭代使用:在观察一些证据后得到的后设几率可以当作新的先验几率,再根据新的证据得到新的后设几率。因此贝斯定理可以应用在许多不同的证据上,不论这些证据是一起出现或是不同时出现都可以,这个程序称为贝斯更新(Bayesian updating)。

若用文字表示,即为“后验和先验及似然率的乘积成正比”,有时也会写成“后验 = 先验 × 似然率,在有证据的情形下”。

贝叶斯推断有在人工智能及专家系统上应用。自1950年代后期开始,贝叶斯推断技巧就是电脑模式识别技术中的基础。现在也越来越多将贝叶斯推断和以模拟为基础的蒙地卡罗方法合并使用的应用,因为一些模杂的模型无法用贝叶斯分析得到解析解,因图模式结构可以配合一些快速的模拟方式(例如吉布斯抽样或是其他Metropolis–Hastings算法)。因为上述理由,贝叶斯推断在系统发生学研究社群中来越受到重视,许多的应用可以用同时估测许多人口和进化参数。

“贝叶斯”是指托马斯·贝叶斯(1702–1761),他证明了一个特例(现在知道是贝叶斯定理的特例),不过皮埃尔-西蒙·拉普拉斯(1749–1827)推导了此定理的一般版本,应用在天体力学、医疗统计学、可靠度(英语:Reliability (statistics))及法学上。早期的贝叶斯推断是用拉普拉斯不充分理由原则(英语:principle of insufficient reason)所得的均匀先验,称为逆向几率(英语:inverse probability)(因为是由观测值倒推参数的归纳推理,或是从结果倒推到原因)。在1920年代以后,逆向几率很大程度的被另一群称为频率论统计(英语:frequentist statistics)的方式取代。

二十世纪时,拉普拉斯的概念往下分支为二派,开始出现主观贝叶斯方法及客观贝叶斯方法。客观贝叶斯方法(或是不提供信息的贝叶斯方法)中,统计分析只依照假设的模型、分析的资料以及给定先验分布的方式(不同的客观贝叶斯方法会有不同给定先验分布的方式)。主观贝叶斯方法(或是提供信息的贝叶斯方法)中,先验的规格依信念(也是分析希望要呈现的主张)而定,信念可以由专家整理资讯后总结产生,也可以根据以往的研究等。

1980年代发现了马尔科夫蒙特卡洛方法,让贝叶斯方法的研究及应用有大幅的发展,除去了许多运算上的问题,也有越来越多人愿意参与非标准的复杂问题。不过虽然贝叶斯方法的研究仍在成长,大部分大学本科的教学仍是以频率论统计(英语:frequentist statistics)为基础。不过贝叶斯方法也广为许多领域接受及应用,例如在机器学习的领域中。

相关

  • 间质性膀胱炎间质性膀胱炎(Interstitial cystitis ,IC),又称为膀胱疼痛综合症(Bladder pain syndrome, BPS)是一种原因不明的膀胱疾病,症状是频尿(通常每10分钟一次)、尿急、骨盆或是膀胱感到极大
  • 回声回声(或称回音)是指障碍物对声音的反射。借由声波反射可以做出回声定位的效果。声波在遇到障碍物时,一部分声波会穿过障碍物,而另一部分声波会反射回来形成回声。若障碍物具有坚
  • Insub2/subOsub3/sub氧化铟是一种无机化合物,化学式为In2O3,是一种两性氧化物,且为铟最稳定的氧化物。块状样品可通过铟(Ⅲ)的氢氧化物、硝酸盐、碳酸盐或硫酸盐的热分解来制备。氧化铟的薄膜可以通
  • 原子钟原子钟(英语:Atomic clock)是一种时钟,它以原子共振频率标准来计算及保持时间的准确。原子钟是世界上已知最准确的时间测量和频率标准,也是国际时间和频率转换的基准,用来控制电视
  • 中华帝国中华帝国,亦称洪宪帝制,是指1915年12月12日至1916年3月22日间,时任中华民国大总统袁世凯在多重因素影响下预备成立的一个君主立宪制政权名称。原定年号洪宪,定1916年为洪宪元年,
  • 巧克力的演变史起初的巧克力,只是一种液体饮料,并不是现在我们所看的块状。巧克力源自可可树,一种只生长在潮湿温暖的热带雨林中的乔木。发酵饮料制成的巧克力可以追溯到公元前1900年。马雅人
  • 纳粹也曾经推行禁烟运动纳粹德国禁烟运动是指在1933年至1945年期间德国的禁烟运动。在德国医师首次研究出吸烟与肺癌的关联后,纳粹德国便开始强烈提倡禁烟运动,而开创了近代史上第一次大众禁烟运动。
  • 齐东街日式宿舍坐标:25°02′30″N 121°31′44″E / 25.041587°N 121.528825°E / 25.041587; 121.528825齐东街日式宿舍,为台湾台北市直辖市定古迹与历史建筑群,为日治时期建物。此地旧称
  • 劳拉·卡芙特劳拉·克罗夫特(英语:Lara Croft,港台译作“萝拉·卡芙特”,中国大陆又译作“劳拉·克劳馥”)是Eidos Interactive(现史克威尔艾尼克斯)的动作冒险游戏《古墓丽影》的主角。由托比
  • 刘老根大舞台刘老根大舞台是由赵本山所创立的本山传媒旗下的连锁剧场,以表演二人转为主。2003年起,赵本山开始率演员在沈阳大舞台(即沈阳中街剧场)进行二人转演出,后成为刘老根大舞台中的旗舰