首页 >
参数估计
✍ dations ◷ 2025-08-24 06:46:35 #参数估计
估计理论是统计学和信号处理中的一个分支,主要是通过测量或经验数据来估计概率分布参数的数值。这些参数描述了实质情况或实际对象,它们能够回答估计函数提出的问题。例如,估计投票人总体中,给特定候选人投票的人的比例。这个比例是一个不可观测的参数,因为投票人总体很大;估计值建立在投票者的一个小的随机采样上。又如,雷达的目的是物体(飞机、船等)的定位。这种定位是通过分析收到的回声(回波)来实现的,定位提出的问题是“飞机在哪里?”为了回答这个问题,必须估计飞机到雷达之间的距离。如果雷达的绝对位置是已知的,那么飞机的绝对位置也是可以确定的。在估计理论中,通常假定信息隐藏在包含噪声的信号中。噪声增加了不确定性,如果没有不确定性,那么也就没有必要估计了。有非常多的领域使用参数估计理论。这些领域包括(当然不局限于以下列出的领域):测量参数包含噪声或者其他不确定性。通过统计概率,可以求得最优化的解,用来从数据中提取尽可能多的信息。估计理论的全部目的都是获取一个估计函数,最好是一个可以实现的估计函数。估计函数输入测量数据,输出相应参数的估计。我们通常希望估计函数能最优,一个最优的估计意味着所有的信息都被提取出来了;如果还有信息没有提取出来,那就意味着它不是最优的。一般来说,求估计函数需要三步:当实现一个估计器之后,实际的数据有可能证明推导出估计器的模型是不正确的,这样的话就需要重复上面的过程重新寻找估计器。不能实现的估计器需要抛弃,然后开始一个新的过程。总的来说,估计器根据实际测量的数据预测物理模型的参数。为了建立一个模型,需要知道几项统计“因素”。为了保证预测在数学上是可以追踪的而不是仅仅基于“内心感受”来说这是必需的。第一个是从大小为
N
{displaystyle N}
的随机矢量中取出的统计采样,将它们放到一个矢量中,第二,有相应的
M
{displaystyle M}
参数它需要根据概率密度函数(pdf)或者概率聚集函数(:en:probability mass function)(pmf)建立参数本身还可能有一个概率分布(Bayesian statistics),需要定义epistemic probability模型形成之后的目标就是预测参数,通常表示为
θ
^
{displaystyle {hat {mathbf {theta } }}}
,其中“hat”表示预测值。一个普通的估计器是最小均方误差(MMSE)估计器,它利用了参数估计值与实际值之间的误差作为优化的基础。在最小均方误差估计器中误差进行取平方、最小化。以下是一些相关的估计函数以及相关的主题让我们来看一个接收到的
N
{displaystyle N}
个独立采样点的离散信号
x
[
n
]
{displaystyle x}
,它由一个直流增益
A
{displaystyle A}
和已知方差为
σ
2
{displaystyle sigma ^{2}}
(例如,
N
(
0
,
σ
2
)
{displaystyle {mathcal {N}}(0,sigma ^{2})}
)的叠加白噪声
w
[
n
]
{displaystyle w}
组成。由于方差已经知道,所以仅有的未知参数就是
A
{displaystyle A}
。于是信号的模型是两个可能的估计器是:这两个估计器都有一个平均值
A
{displaystyle A}
,这可以通过代入每个估计器的期望得到和在这一点上,这两个估计器看起来是一样的。但是,当比较方差部分的时候它们之间的不同就很明显了。和看起来采样平均是一个更好的估计器,因为方差部分
N
→
∞
{displaystyle Nto infty }
趋向于0。使用最大似然估计继续上面的例子,噪声在一个采样点
w
[
n
]
{displaystyle w}
的概率密度函数(pdf)是这样
x
[
n
]
{displaystyle x}
的概率变为(
x
[
n
]
{displaystyle x}
可以认为是
N
(
A
,
σ
2
)
{displaystyle {mathcal {N}}(A,sigma ^{2})}
)由于相互独立,
x
{displaystyle mathbf {x} }
的概率变为概率密度函数取自然对数于是最大似然估计器是对数最大似然函数取一阶导数并且将它赋值为0这就得到最大似然估计器它是一个简单的采样平均。从这个例子中,我们发现对于带有固定未知直流增益的AWGN的
N
{displaystyle N}
个采样点来说采样平均就是最大似然估计器。为了找到采样平均估计器的Cramér-Rao下限(CRLB),需要找到Fisher information数从上面得到取二阶导数发现负的期望值是无关紧要的(trivial),因为它现在是一个确定的常数−
E
[
∂
2
∂
A
2
ln
p
(
x
;
A
)
]
=
N
σ
2
{displaystyle -mathrm {E} left={frac {N}{sigma ^{2}}}}最后,将Fisher information代入得到将这个值与前面确定的采样平均的变化比较显示对于所有的
N
{displaystyle N}
和
A
{displaystyle A}
来说采样平均都是等于Cramér-Rao下限。采样平均除了是最大似然估计器之外还是最小变化无偏估计器(MVUE)。这个直流增益 + WGN的例子是Kay的统计信号处理基础中一个例子的再现。
相关
- 红霉素红霉素(拉丁语:Erythromycin)是一种大环内酯类的抗生素,可用于治疗呼吸道感染、皮肤感染(英语:skin infections)、衣原体菌感染(拉丁语:chlamydia infections),以及梅毒。本品也可用于
- 头孢洛扎头孢洛扎(Ceftolozane) ,是第五代头孢类抗生素,用来治疗对常规抗生素耐药的革兰氏阴性菌。 实验证明其对尿路感染、腹腔内感染、呼吸机相关性细菌性肺炎有效。头孢洛扎常与他唑
- 产褥期产后护理是指针对分娩女性所做的护理工作,而这段时期也叫产褥或产褥期。该护理工作视各地民情,经济等因素,而有不同的照料方式。例如中国或越南等亚洲国家即有名称为坐月子的产
- 流行性腮腺炎流行性腮腺炎疫苗(Mumps vaccine)可有效预防流行性腮腺炎,当一群体中大多数人口接受施打时可在减小流行性腮腺炎及其并发症的发生。据估算,当人群中百分之九十均注射该疫苗时,其
- 静坐不能静坐不能是一种运动障碍,主要表现为内心 烦躁不安和无法保持静止。 通常腿部受到最突出的影响。 静坐不能会使人坐立不安,来回摇摆,踱步。 或可能只是感到不安。 并发症包括自
- 微管微管(英语:Microtubule)是细胞骨架的一个组成部分,遍布于细胞质中。微管蛋白的这些管状聚合物可以增长长达50微米,具有25微米的平均长度,并且是高度动态的。微管的外径约为24纳米,
- 水力磨坊水车,是利用水流产生机械能(位能与动能)的一种原动机。在蒸汽机、电动机发明以前,人类常用它来取水、脱谷、制粉、纺织。水车轮一般以木材制成,也可用金属成型。一个用于发电的水
- 维利·勃兰特维利·勃兰特(德语:Willy Brandt,亦作威利·布朗特,1913年12月18日-1992年10月8日),德国政治家,曾任联邦德国(西德)总理。1969年西德联邦大选,勃兰特领导的社民党成为第一大党,结束基督
- 韦斯特菲尔德坐标:42°07′30″N 72°45′00″W / 42.12500°N 72.75000°W / 42.12500; -72.75000韦斯特菲尔德(英语:Westfield)是美国马萨诸塞州汉登县的一个城市,韦斯特菲尔德河流过。面积
- 肾血流量肾血流量(Renal blood flow、RBF),在肾的生理学,是表示每单位时间输送到肾脏的血液体积。在人类中,肾脏一起接受大约心输出量(cardiac output)的22%,在一位70公斤的成年男性达<1.