二次型 (统计)

在多元变量统计中，如果 ${\displaystyle \mathrm{\epsilon <!--\; \epsilon \; -->}}$ 为 ${\displaystyle n}$ 维随机向量， ${\displaystyle \mathrm{\Lambda <!--\; \Lambda \; -->}}$ 是一个 ${\displaystyle n}$ 维对称矩阵，则随机变量 ${\displaystyle {\mathrm{\epsilon <!--\; \epsilon \; -->}}^T\mathrm{\Lambda <!--\; \Lambda \; -->}\mathrm{\epsilon <!--\; \epsilon \; -->}}$ 称为 ${\displaystyle \mathrm{\epsilon <!--\; \epsilon \; -->}}$ 的二次型。

二次型的期望可表示为，

其中，${\displaystyle \mathrm{\mu <!--\; \mu \; -->}}$ 和 ${\displaystyle \mathrm{\Sigma <!--\; \Sigma \; -->}}$ 分别表示 ${\displaystyle \mathrm{\epsilon <!--\; \epsilon \; -->}}$ 的期望值 和方差-协方差矩阵， tr 为矩阵的迹。其结果仅仅取决于是否存在 ${\displaystyle \mathrm{\mu <!--\; \mu \; -->}}$ 和 ${\displaystyle \mathrm{\Sigma <!--\; \Sigma \; -->}}$；并且，${\displaystyle \mathrm{\epsilon <!--\; \epsilon \; -->}}$ 的正态性不是必要条件。

关于随机变量的二次型参考书籍 

由于二次型是标量，所以二次型的迹就是它本身${\displaystyle \mathrm{E}<!--\; \; -->=\mathrm{tr}<!--\; \; -->(\mathrm{E}<!--\; \; -->)}$。

由于矩阵的迹是其对角线元素之和（即矩阵元素线性组合的结果），因此服从期望的线性，有

利用迹的可交换性，

由期望的线性可得

由方差的标准属性可知：

再次应用迹的可交换性可得：

通常情况下，二次型的方差在很大程度上取决于 ${\displaystyle \mathrm{\epsilon <!--\; \epsilon \; -->}}$ 的分布。 然而，如果 ${\displaystyle \mathrm{\epsilon <!--\; \epsilon \; -->}}$ 服从多元正态分布，则二次型的方差的求解非常容易。假设 ${\displaystyle \mathrm{\Lambda <!--\; \Lambda \; -->}}$ 是一个对称矩阵，则有，

事实上，这可以推广到同一向量 ${\displaystyle \mathrm{\epsilon <!--\; \epsilon \; -->}}$ 的两个二次型的协方差计算中 (注意, ${\displaystyle {\mathrm{\Lambda <!--\; \Lambda \; -->}}_1}$ 和 ${\displaystyle {\mathrm{\Lambda <!--\; \Lambda \; -->}}_2}$ 必须都是对称矩阵):

在某些参考资料中，在 ${\displaystyle \mathrm{\Lambda <!--\; \Lambda \; -->}}$ 为非对称矩阵情况下，也错误地得到了上述方差/协方差的结果。在一般情况下，${\displaystyle \mathrm{\Lambda <!--\; \Lambda \; -->}}$ 可以通过下面方式得到：

因此

但是，这是一个二次型的对称矩阵 ${\displaystyle \stackrel{~<!--\; ~\; -->}{\mathrm{\Lambda <!--\; \Lambda \; -->}}=\left(\mathrm{\Lambda <!--\; \Lambda \; -->}+{\mathrm{\Lambda <!--\; \Lambda \; -->}}^T\right)/2}$，所以其均值和方差表达式相同，只是将 ${\displaystyle \mathrm{\Lambda <!--\; \Lambda \; -->}}$ 替换为 ${\displaystyle \stackrel{~<!--\; ~\; -->}{\mathrm{\Lambda <!--\; \Lambda \; -->}}}$。

设有观测值的集合 ${\displaystyle y}$ 和运算矩阵 ${\displaystyle H}$，则 ${\displaystyle y}$ 的残差平方和可表示为其二次型：

其中，矩阵 ${\displaystyle H}$ 为对称和等幂的，其误差为协方差矩阵为 ${\displaystyle {\mathrm{\sigma <!--\; \sigma \; -->}}^{2}I}$ 的高斯分布, ${\displaystyle \text{RSS}/{\mathrm{\sigma <!--\; \sigma \; -->}}^2}$ 为自由度是 ${\displaystyle k}$ 的卡方分布，参数为 ${\displaystyle \mathrm{\lambda <!--\; \lambda \; -->}}$，有

如果 ${\displaystyle Hy}$ 在估计 ${\displaystyle \mathrm{\mu <!--\; \mu \; -->}}$ 时没有偏差，则参数 ${\displaystyle \mathrm{\lambda <!--\; \lambda \; -->}}$ 为零且 ${\displaystyle \text{RSS}/{\mathrm{\sigma <!--\; \sigma \; -->}}^2}$ 服从中心卡方分布。