首页 >
似然函数
✍ dations ◷ 2025-06-27 03:28:18 #似然函数
在数理统计学中,似然函数是一种关于统计模型中的参数的函数,表示模型参数中的似然性。似然函数在统计推断中有重大作用,如在最大似然估计和费雪信息之中的应用等等。“似然性”与“或然性”或“概率”意思相近,都是指某种事件发生的可能性,但是在统计学中,“似然性”和“概率”(或然性)又有明确的区分:概率,用于在已知一些参数的情况下,预测接下来在观测上所得到的结果;似然性,则是用于在已知某些观测所得到的结果时,对有关事物之性质的参数进行估值。在这种意义上,似然函数可以理解为条件概率的逆反。在已知某个参数B时,事件A会发生的概率写作:利用贝叶斯定理,因此,我们可以反过来构造表示似然性的方法:已知有事件A发生,运用似然函数
L
(
B
∣
A
)
{displaystyle mathbb {L} (Bmid A)}
,我们估计参数B的可能性。形式上,似然函数也是一种条件概率函数,但我们关注的变量改变了:注意到这里并不要求似然函数满足归一性:
∑
b
∈
B
P
(
A
∣
B
=
b
)
=
1
{displaystyle sum _{bin {mathcal {B}}}P(Amid B=b)=1}
。一个似然函数乘以一个正的常数之后仍然是似然函数。对所有
α
>
0
{displaystyle alpha >0}
,都可以有似然函数:考虑投掷一枚硬币的实验。通常来说,已知掷出一枚“公平的硬币”(正面朝上和反面朝上的概率都为0.5), 即正面(Head)朝上的概率为
p
H
=
0.5
{displaystyle p_{H}=0.5}
,便可以知道投掷若干次后出现各种结果的可能性。比如说,投两次都是正面朝上的概率是0.25。用条件概率表示,就是:其中H表示正面朝上。如果一个硬币的质量分布不够均匀, 那么它可能是一枚"非公平的硬币"在统计学中,我们关心的是在已知一系列投掷的结果时,关于硬币投掷时正面朝上的可能性的信息。
我们可以建立一个统计模型:假设硬币投出时会有
p
H
{displaystyle p_{H}}
的概率正面朝上,而有
1
−
p
H
{displaystyle 1-p_{H}}
的概率反面朝上。
这时,通过观察已发生的两次投掷,条件概率可以改写成似然函数:也就是说,对于取定的似然函数,在观测到两次投掷都是正面朝上时,
p
H
=
0.5
{displaystyle p_{H}=0.5}
的似然性是0.25。注意,反之并不成立,即当似然函数为0.25时不能推论出
p
H
=
0.5
{displaystyle p_{H}=0.5}
。如果考虑
p
H
=
0.6
{displaystyle p_{H}=0.6}
,那么似然函数的值也会改变。如图1所示,注意到似然函数的值变大了。
这说明,如果参数
p
H
{displaystyle p_{H}}
的取值变成0.6的话,结果观测到连续两次正面朝上的概率要比假设
p
H
=
0.5
{displaystyle p_{H}=0.5}
时更大。也就是说,参数
p
H
{displaystyle p_{H}}
取成0.6要比取成0.5更有说服力,更为“合理”。
总之,似然函数的重要性不是它的具体取值,而是当参数变化时函数到底变小还是变大。在这个例子中,如图1所示,似然函数实际上等于:如果取
p
H
=
1
{displaystyle p_{H}=1}
,那么似然函数达到最大值1。也就是说,当连续观测到两次正面朝上时,假设硬币投掷时正面朝上的概率为1是最合理的。类似地,如果观测到的是三次投掷硬币,头两次正面朝上,第三次反面朝上,如图2所示,那么似然函数将会是:这时候,似然函数的最大值将会在
p
H
=
2
3
{displaystyle p_{H}={frac {2}{3}}}
的时候取到。也就是说,当观测到三次投掷中前两次正面朝上而后一次反面朝上时,估计硬币投掷时正面朝上的概率
p
H
=
2
3
{displaystyle p_{H}={frac {2}{3}}}
是最合理的。最大似然估计是似然函数最初也是最自然的应用。上文已经提到,似然函数取得最大值表示相应的参数能够使得统计模型最为合理。从这样一个想法出发,最大似然估计的做法是:首先选取似然函数(一般是概率密度函数或概率质量函数),整理之后求最大值。实际应用中一般会取似然函数的对数作为求最大值的函数,这样求出的最大值和直接求最大值得到的结果是相同的。似然函数的最大值不一定唯一,也不一定存在。与矩法估计比较,最大似然估计的精确度较高,信息损失较少,但计算量较大。似然比检验是利用似然函数来检测某个假设(或限制)是否有效的一种检验。一般情况下,要检测某个附加的参数限制是否是正确的,可以将加入附加限制条件的较复杂模型的似然函数最大值与之前的较简单模型的似然函数最大值进行比较。如果参数限制是正确的,那么加入这样一个参数应当不会造成似然函数最大值的大幅变动。一般使用两者的比例来进行比较,这个比值是卡方分配。尼曼-皮尔森引理说明,似然比检验是所有具有同等显著性差异的检验中最有统计效力的检验。
相关
- 国际海底管理局国际海底管理局(英语:International Seabed Authority,缩写ISA)是管理国际海底区域及其资源的权威组织。根据联合国第三次海洋法会议的决议,1983年3月成立了联合国国际海底管理
- 威廉·詹姆士威廉·詹姆斯(英语:William James,1842年1月11日-1910年8月26日),美国哲学家、心理学家。他的弟弟亨利·詹姆斯是著名作家。他和查尔斯·桑德斯·皮尔士一起建立了实用主义。威廉
- 三世纪危机三世纪危机,又名军事无政府状态或帝国危机(英语:Crisis of the Third Century),是指罗马帝国在235年(皇帝亚历山大·塞维鲁被杀)至284年(皇帝戴克里先即位)间受到三项同时发生的危机
- 金属疲劳疲劳一词在材料科学领域, 意指物件因持续受到动态变化的应力而造成结构劣化。引起疲劳的动态变化应力通常远小于静态的极限拉伸应力或极限屈变应力。疲劳是渐进且局部的结构
- 蝾螈蝾螈科(学名:Salamandridae)是通常颜色鲜艳的中小型两栖纲有尾目动物,分布于北半球的温带地区(北美、欧洲、亚洲和非洲地中海沿岸)。终生有尾,没有鳞片,是有尾目两栖动物的代表,也是
- 不当劳动行为不当劳动行为(Unfair labor practice)又称“不公平劳动行为”、“不公正劳工措施”,是指雇主意图破坏或弱化工会活动所采取的不公平行为。目前,国际劳动法学界公认的“不当行为
- 挑战者号挑战者号航天飞机(STS Challenger STA-099/OV-099)是美国国家航空航天局肯尼迪太空中心旗下的一架航天飞机。1983年开始用做轨道载具(Orbiter Vehicle),但在1986年时于任务中爆炸
- 岭南园林广东四大名园,也称为岭南四大园林,分别是顺德清晖园、番禺余荫园、东莞可园、佛山梁园。其他著名的广东园林还有很多,潮州莼园,潮阳三园林最具代表性的西园,以及澄海西塘、澳门卢
- 桌上型砂轮机砂轮机(bench grinder, pedestal grinder),是一种利用电机驱动砂轮旋转且可安装在桌上(台式砂轮机),或是固定在地板上(立柱砂轮机)的磨削机器。这类磨床常用于手工磨利刀具和粗磨工
- 脉冲在信号处理中,脉冲(pulse)有以下两种意义:以下主要说明信号幅度快速暂态变化的脉冲。利用脉冲整形(英语:pulse-shaping)的程序可以产生不同的脉冲形状,根据应用的不同,最佳的脉冲形状