二次型 (统计)

✍ dations ◷ 2025-07-17 09:40:48 #二次型,统计理论

在多元变量统计中,如果 ε {\displaystyle \varepsilon }  为  n {\displaystyle n} 维随机向量, Λ {\displaystyle \Lambda } 是一个 n {\displaystyle n} 维对称矩阵,则随机变量 ε T Λ ε {\displaystyle \varepsilon ^{T}\Lambda \varepsilon }  称为  ε {\displaystyle \varepsilon } 的二次型。

二次型的期望可表示为,

其中, μ {\displaystyle \mu } Σ {\displaystyle \Sigma } 分别表示 ε {\displaystyle \varepsilon } 的期望值 和方差-协方差矩阵, tr 为矩阵的迹。其结果仅仅取决于是否存在 μ {\displaystyle \mu } Σ {\displaystyle \Sigma } ;并且, ε {\displaystyle \varepsilon }  的正态性不是必要条件。

关于随机变量的二次型参考书籍 

由于二次型是标量,所以二次型的迹就是它本身 E = tr ( E ) {\displaystyle \operatorname {E} \left=\operatorname {tr} (\operatorname {E} )}

由于矩阵的迹是其对角线元素之和(即矩阵元素线性组合的结果),因此服从期望的线性,有

利用迹的可交换性,

由期望的线性可得

由方差的标准属性可知:

再次应用迹的可交换性可得:

通常情况下,二次型的方差在很大程度上取决于 ε {\displaystyle \varepsilon } 的分布。 然而,如果 ε {\displaystyle \varepsilon }  服从多元正态分布,则二次型的方差的求解非常容易。假设  Λ {\displaystyle \Lambda } 是一个对称矩阵,则有,

事实上,这可以推广到同一向量  ε {\displaystyle \varepsilon }  的两个二次型的协方差计算中 (注意, Λ 1 {\displaystyle \Lambda _{1}} Λ 2 {\displaystyle \Lambda _{2}} 必须都是对称矩阵):

在某些参考资料中,在  Λ {\displaystyle \Lambda } 为非对称矩阵情况下,也错误地得到了上述方差/协方差的结果。在一般情况下, Λ {\displaystyle \Lambda } 可以通过下面方式得到:

因此

但是,这是一个二次型的对称矩阵 Λ ~ = ( Λ + Λ T ) / 2 {\displaystyle {\tilde {\Lambda }}=\left(\Lambda +\Lambda ^{T}\right)/2} ,所以其均值和方差表达式相同,只是将 Λ {\displaystyle \Lambda } 替换为 Λ ~ {\displaystyle {\tilde {\Lambda }}}

设有观测值的集合 y {\displaystyle y} 和运算矩阵 H {\displaystyle H} ,则 y {\displaystyle y} 的残差平方和可表示为其二次型:

其中,矩阵  H {\displaystyle H}  为对称和等幂的,其误差为协方差矩阵为 σ 2 I {\displaystyle \sigma ^{2}I} 的高斯分布, RSS / σ 2 {\displaystyle {\textrm {RSS}}/\sigma ^{2}}  为自由度是  k {\displaystyle k} 的卡方分布,参数为  λ {\displaystyle \lambda } ,有

如果 H y {\displaystyle Hy}  在估计  μ {\displaystyle \mu }  时没有偏差,则参数  λ {\displaystyle \lambda }  为零且  RSS / σ 2 {\displaystyle {\textrm {RSS}}/\sigma ^{2}} 服从中心卡方分布。

相关

  • 吉姆·克拉克詹姆斯·亨利·克拉克(英语:James Henry Clark,1944年3月23日-)是美国企业家和计算机科学家。他创立了几家著名的硅谷科技公司,包括Silicon Graphics、Netscape、myCFO和Healtheon
  • 太医署太医院,中国古代官署名。秦汉以后设太医令,为掌管医疗;隋唐设太医署;宋代设翰林医官院、元丰改制为医官局,设和安大夫、成和大夫、翰林医官;辽国北面官设太医局,南面官设提举翰林医
  • 鸟类学动物学人类学 · 人与动物关系学 蜜蜂学 · 节肢动物学 医学节肢动物学 · 鲸类学 贝类学 · 昆虫学 动物行为学 · 蠕虫学 两栖爬行动物学 · 鱼类学 软体动物学 · 哺乳动
  • 杜立德医生杜立德医生(英语:Doctor Dolittle)或译为“赖医生”,是一个出生自英国而后来在美国工作的小说家休·洛夫廷(或译休·洛夫汀)(Hugh Lofting, 1886年 - 1947年)所著的儿童文学作品系
  • 过氧酸过氧酸(peroxy acid),简称过酸,是分子中含有过氧基 -O-O- 的酸类。可以分为无机过氧酸和有机过氧酸两类。过氧酸(盐)主要由碳族、氮族和氧族元素的含氧酸(盐)所衍生出。但周期表中,第三
  • 林 颙林颙,福建漳浦县旧镇大油甘人,清朝政治人物。顺治十五年(1658年)戊戌科进士,授德化县知县。
  • 黑人法令黑人法令是指美国经历南北战争后,战败的南部邦联各州为了让“白种人优越”得以继续,颁行的许多歧视黑人的法律。1865年5月26日南部邦联战败后,美国先后颁发了《解放宣言》和《
  • 盆唐车辆基地盆唐车辆基地(朝鲜语:분당차량사업소/盆唐車輛事業所  */?)是韩国铁道公社位于京畿道龙仁市器兴区的一个车辆段,在盆唐线附近,北接竹田站。这个车辆段主要用于盆唐线的351000系
  • 安德烈·彼得罗维奇·卡皮察安德烈·彼得罗维奇·卡皮察(俄语:Андрей Петрович Капица,1931年7月8日-2011年8月2日)是俄罗斯地理学家和南极探险家,南极洲最大的冰底湖——沃斯托克湖的第
  • 阿布-贝克尔·尤尼斯·贾卜尔阿布-贝克尔·尤尼斯·贾卜尔少将(阿拉伯语:أبو بكر يونس جابر‎,拉丁化:Major General Abu-Bakr Yunis Jabr,1952年-2011年10月20日)生于利比亚东部的贾卢,是穆阿迈