参数估计

✍ dations ◷ 2025-04-02 08:52:57 #参数估计
估计理论是统计学和信号处理中的一个分支,主要是通过测量或经验数据来估计概率分布参数的数值。这些参数描述了实质情况或实际对象,它们能够回答估计函数提出的问题。例如,估计投票人总体中,给特定候选人投票的人的比例。这个比例是一个不可观测的参数,因为投票人总体很大;估计值建立在投票者的一个小的随机采样上。又如,雷达的目的是物体(飞机、船等)的定位。这种定位是通过分析收到的回声(回波)来实现的,定位提出的问题是“飞机在哪里?”为了回答这个问题,必须估计飞机到雷达之间的距离。如果雷达的绝对位置是已知的,那么飞机的绝对位置也是可以确定的。在估计理论中,通常假定信息隐藏在包含噪声的信号中。噪声增加了不确定性,如果没有不确定性,那么也就没有必要估计了。有非常多的领域使用参数估计理论。这些领域包括(当然不局限于以下列出的领域):测量参数包含噪声或者其他不确定性。通过统计概率,可以求得最优化的解,用来从数据中提取尽可能多的信息。估计理论的全部目的都是获取一个估计函数,最好是一个可以实现的估计函数。估计函数输入测量数据,输出相应参数的估计。我们通常希望估计函数能最优,一个最优的估计意味着所有的信息都被提取出来了;如果还有信息没有提取出来,那就意味着它不是最优的。一般来说,求估计函数需要三步:当实现一个估计器之后,实际的数据有可能证明推导出估计器的模型是不正确的,这样的话就需要重复上面的过程重新寻找估计器。不能实现的估计器需要抛弃,然后开始一个新的过程。总的来说,估计器根据实际测量的数据预测物理模型的参数。为了建立一个模型,需要知道几项统计“因素”。为了保证预测在数学上是可以追踪的而不是仅仅基于“内心感受”来说这是必需的。第一个是从大小为 N {displaystyle N} 的随机矢量中取出的统计采样,将它们放到一个矢量中,第二,有相应的 M {displaystyle M} 参数它需要根据概率密度函数(pdf)或者概率聚集函数(:en:probability mass function)(pmf)建立参数本身还可能有一个概率分布(Bayesian statistics),需要定义epistemic probability模型形成之后的目标就是预测参数,通常表示为 θ ^ {displaystyle {hat {mathbf {theta } }}} ,其中“hat”表示预测值。一个普通的估计器是最小均方误差(MMSE)估计器,它利用了参数估计值与实际值之间的误差作为优化的基础。在最小均方误差估计器中误差进行取平方、最小化。以下是一些相关的估计函数以及相关的主题让我们来看一个接收到的 N {displaystyle N} 个独立采样点的离散信号 x [ n ] {displaystyle x} ,它由一个直流增益 A {displaystyle A} 和已知方差为 σ 2 {displaystyle sigma ^{2}} (例如, N ( 0 , σ 2 ) {displaystyle {mathcal {N}}(0,sigma ^{2})} )的叠加白噪声 w [ n ] {displaystyle w} 组成。由于方差已经知道,所以仅有的未知参数就是 A {displaystyle A} 。于是信号的模型是两个可能的估计器是:这两个估计器都有一个平均值 A {displaystyle A} ,这可以通过代入每个估计器的期望得到和在这一点上,这两个估计器看起来是一样的。但是,当比较方差部分的时候它们之间的不同就很明显了。和看起来采样平均是一个更好的估计器,因为方差部分 N → ∞ {displaystyle Nto infty } 趋向于0。使用最大似然估计继续上面的例子,噪声在一个采样点 w [ n ] {displaystyle w} 的概率密度函数(pdf)是这样 x [ n ] {displaystyle x} 的概率变为( x [ n ] {displaystyle x} 可以认为是 N ( A , σ 2 ) {displaystyle {mathcal {N}}(A,sigma ^{2})} )由于相互独立, x {displaystyle mathbf {x} } 的概率变为概率密度函数取自然对数于是最大似然估计器是对数最大似然函数取一阶导数并且将它赋值为0这就得到最大似然估计器它是一个简单的采样平均。从这个例子中,我们发现对于带有固定未知直流增益的AWGN的 N {displaystyle N} 个采样点来说采样平均就是最大似然估计器。为了找到采样平均估计器的Cramér-Rao下限(CRLB),需要找到Fisher information数从上面得到取二阶导数发现负的期望值是无关紧要的(trivial),因为它现在是一个确定的常数− E [ ∂ 2 ∂ A 2 ln ⁡ p ( x ; A ) ] = N σ 2 {displaystyle -mathrm {E} left={frac {N}{sigma ^{2}}}}最后,将Fisher information代入得到将这个值与前面确定的采样平均的变化比较显示对于所有的 N {displaystyle N} 和 A {displaystyle A} 来说采样平均都是等于Cramér-Rao下限。采样平均除了是最大似然估计器之外还是最小变化无偏估计器(MVUE)。这个直流增益 + WGN的例子是Kay的统计信号处理基础中一个例子的再现。

相关

  • 卢森堡面积以下资讯是以2012年估计家用电源国家领袖国内生产总值(购买力平价) 以下资讯是以2016年估计国内生产总值(国际汇率) 以下资讯是以2016年估计人类发展指数 以下资讯是以2018
  • 阿尔巴尼亚阿尔巴尼亚国家图书馆(阿尔巴尼亚语:Biblioteka Kombëtare e Shqipërisë)是阿尔巴尼亚的国家图书馆,是该国最古老的文化机构之一。 阿尔巴尼亚国家图书馆位于该国首都地拉那,
  • 绿色建筑可持续发展主题可再生能源主题环境主题绿色建筑或绿建筑(英语:Green Building),是指本身及其使用过程在生命周期中,如选址、设计、建设、营运、维护、翻新、拆除等各阶段皆达成环
  • 学术论文论文是科学或者社会研究工作者在学术书籍或学术期刊上刊登的,用来进行科学研究和描述或呈现自己研究成果的文章。论文往往强调原创性的工作总结,但当然也可以是对前人工作总结
  • 生物气体生物气体(英语:Biogas,亦称生化气体或生质气体),泛指包括粪肥、污水、都市固体废物及其他生物可降解的有机物质,在缺氧的环境下,经发酵或者无氧消化过程所产生的气体,这些气体主要包
  • 受洗洗礼(英语:Baptism),又称浸礼、圣洗圣事、施洗、受洗和受浸,是一宗教仪式,现普遍指基督教的传统仪式。据《圣经》记载,施洗约翰曾为耶稣施洗,而这亦是耶稣吩咐的。洗礼一词来自通用
  • 汉尼斯·阿尔文汉尼斯·奥洛夫·哥斯达·阿尔文(瑞典语:Hannes Olof Gösta Alfvén,1908年5月30日-1995年4月2日),瑞典等离子体物理学家、天文学家,致力于磁流体动力学领域的研究,其成果被广泛应
  • 瘘(拉丁语:Fistula,或称瘘管)是体表上皮细胞与内脏或深层组织之间形成的病理性管道,有内口与外口。瘘管的外口,又称为漏,是流脓水,淋漓不断,不能收口的溃疡疮口。而有时,为了达到对某
  • 甲酚甲酚(化学式:CH3C6H4OH),甲苯酚的简称,也称“克利沙尔”(Cresol)。根据甲基和羟基相对取代位置的不同,又有邻甲酚、间甲酚和对甲酚三种异构体。含这三种异构体的混合物称为煤酚(creso
  • NaBHsub4/sub硼氢化钠是一种无机化合物,分子式NaBH4。硼氢化钠为白色粉末,容易吸水潮解,可溶于水和低级醇,在室温下与甲醇迅速反应生成氢气。在无机合成和有机合成中硼氢化钠常用做还原剂。