U-统计量

✍ dations ◷ 2025-09-17 06:30:06 #U-统计量

U-统计量是统计学中一类特定的、具有对称性的统计量，它在估计理论中扮演重要角色。名称中的“ U”为无偏（unbiased）之意。在初等统计学中，U-统计量与最小方差无偏估计量 (UMVUE) 有密切联系。

U-统计量的一个重要性是，对概率分布来说，其可估计参数的最小方差无偏估计量是一个U-统计量。因此通过研究U-统计量的一般性质，可以系统地了解这些估计量的统计学性质。

U-统计量在非参数统计中尤其重要，不少用于估计和统计检验的统计量，在形式上都是U-统计量。U-统计量通常具有良好的渐近正态性，这方便了基于它的统计推断。近年来，U-统计量在研究复杂的随机过程和随机网络类型数据的随机性质方面，发挥了作用。

目前，统计学家们对U-统计量性质的了解，几乎全都基于Hoeffding发表于1948年的经典论文。在这篇论文里，Hoeffding给出了U-统计量最重要的性质——它的ANOVA分解。

定义 ${displaystyle h(x_{1},ldots ,x_{r}):mathbb {R} ^{r}to mathbb {R} }$ ${displaystyle h(x_{1},ldots ,x_{r}):mathbb {R} ^{r}to mathbb {R} }$ 为一个函数，其具有对称性，即交换任意 ${displaystyle x_{i},x_{j}}$ $x_i,x_j$ 的位置， ${displaystyle h}$ $h$ 的值保持不变。对随机变量 ${displaystyle X_{1},ldots ,X_{n}}$ ${displaystyle X_{1},ldots ,X_{n}}$ ，基于 ${displaystyle h}$ $h$ 的U-统计量定义如下：

这里， ${displaystyle h(cdot )}$ ${displaystyle h(cdot )}$ 称为U-统计量的核函数（Kernel function），而核函数的维数 ${displaystyle r}$ $r$ 称为该U-统计量的度（degree）。

定义 ${displaystyle h(x_{1},ldots ,x_{r};y_{1},ldots ,y_{s}):mathbb {R} ^{r+s}to mathbb {R} }$ ${displaystyle h(x_{1},ldots ,x_{r};y_{1},ldots ,y_{s}):mathbb {R} ^{r+s}to mathbb {R} }$ 为一个函数，其对 ${displaystyle X}$ $X$ 和 ${displaystyle Y}$ $Y$ 分别具有对称性，即交换任意 ${displaystyle x_{i_{1}},x_{i_{2}}}$ ${displaystyle x_{i_{1}},x_{i_{2}}}$ 的位置或交换任意 ${displaystyle y_{j_{1}},y_{j_{2}}}$ ${displaystyle y_{j_{1}},y_{j_{2}}}$ 的位置， ${displaystyle h}$ $h$ 的值保持不变（但不能随意交换 ${displaystyle x_{i},y_{j}}$ ${displaystyle x_{i},y_{j}}$ ）。对随机变量 ${displaystyle X_{1},ldots ,X_{m};Y_{1},ldots ,Y_{n}}$ ${displaystyle X_{1},ldots ,X_{m};Y_{1},ldots ,Y_{n}}$ ，基于 ${displaystyle h}$ $h$ 的两样本U-统计量定义如下：

目前在机器学习中，最常见的情形是 ${displaystyle r=s=1}$ ${displaystyle r=s=1}$ ，例如能量距离和最大平均差异（MMD）。

Hoeffding的ANOVA分解定理是现代U-统计量理论的基础。为表述该定理，定义： ${displaystyle mu =mathbb {E} }$ ${displaystyle mu =mathbb {E} }$ 。对所有 ${displaystyle 1leq kleq r}$ ${displaystyle 1leq kleq r}$ ，定义投影函数：

${displaystyle a_{k}(x_{1},ldots ,x_{k})=mathbb {E} -mu }$ ${displaystyle a_{k}(x_{1},ldots ,x_{k})=mathbb {E} -mu }$

然后定义正交化投影函数：

${displaystyle g_{1}(x_{1})=a_{1}(x_{1})}$ ${displaystyle g_{1}(x_{1})=a_{1}(x_{1})}$ ， ${displaystyle g_{2}(x_{1},x_{2})=a_{2}(x_{1},x_{2})-g_{1}(x_{1})-g_{2}(x_{2})}$ ${displaystyle g_{2}(x_{1},x_{2})=a_{2}(x_{1},x_{2})-g_{1}(x_{1})-g_{2}(x_{2})}$ ，等等，每一个 ${displaystyle g_{k}}$ $g_{k}$ 都定义为相应的 ${displaystyle a_{k}}$ $a_{k}$ 减去之前定义过的所有 ${displaystyle g_{1},ldots ,g_{k-1}}$ ${displaystyle g_{1},ldots ,g_{k-1}}$ ，直至最后一个函数 ${displaystyle g_{r}}$ ${displaystyle g_{r}}$ ：

${displaystyle g_{r}(x_{1},ldots ,x_{r})=a_{r}(x_{1},ldots ,x_{r})-sum _{j=1}^{r-1}sum _{1leq i_{1}<cdots <i_{j}leq r}g_{j}(x_{i_{1}},ldots ,x_{i_{j}})}$ ${displaystyle g_{r}(x_{1},ldots ,x_{r})=a_{r}(x_{1},ldots ,x_{r})-sum _{j=1}^{r-1}sum _{1leq i_{1}<cdots <i_{j}leq r}g_{j}(x_{i_{1}},ldots ,x_{i_{j}})}$

Hoeffding的ANOVA分解定理的内容是：

${displaystyle U_{n}-mu ={binom {n}{r}}^{-1}sum _{k=1}^{r}{binom {n-k}{r-k}}cdot sum _{1leq i_{1}<cdots <i_{k}leq n}g_{k}(X_{i_{1}},ldots ,X_{i_{k}})}$ ${displaystyle U_{n}-mu ={binom {n}{r}}^{-1}sum _{k=1}^{r}{binom {n-k}{r-k}}cdot sum _{1leq i_{1}<cdots <i_{k}leq n}g_{k}(X_{i_{1}},ldots ,X_{i_{k}})}$

所有的正交化投影函数 ${displaystyle g_{k}}$ $g_{k}$ 都满足：

${displaystyle mathbb {E} =0}$ ${displaystyle mathbb {E} =0}$

因此，所有的分解项之间是互不相关的，并且度为 ${displaystyle k}$ $k$ 的分解项之平均的阶为 ${displaystyle O_{p}left(n^{-k/2}right)}$ ${displaystyle O_{p}left(n^{-k/2}right)}$ .

在大多数应用中，一个U-统计量的ANOVA分解中最重要的是前一项或前两项。根据分解项的性质，可以得到如下的两项ANOVA分解式：

${displaystyle U_{n}-mu ={frac {r}{n}}sum _{i=1}^{n}g_{1}(X_{i})+{frac {r(r-1)}{n(n-1)}}sum _{1leq i<jleq n}g_{2}(X_{i},X_{j})+O_{p}(n^{-3/2})}$ ${displaystyle U_{n}-mu ={frac {r}{n}}sum _{i=1}^{n}g_{1}(X_{i})+{frac {r(r-1)}{n(n-1)}}sum _{1leq i<jleq n}g_{2}(X_{i},X_{j})+O_{p}(n^{-3/2})}$

同时，分解定理也指出了应该如何正确地一阶逼近U-统计量的方差，和对其进行t-标准化。

称为“平均成对偏差”。

这正是人们熟知的样本方差 ${displaystyle S_{n}^{2}}$ ${displaystyle S_{n}^{2}}$ 。

展开后可以写成一个U-统计量。

相关

科学主义科学主义是这样的一种思想，即自然科学是最权威的世界观，也是人类最重要的知识，其高于所有一切其他东西对生活的诠释。“科学主义”这个词曾被社会科学家如弗里德里希·哈耶克、
国债钟国债钟（英语：National Debt Clock）是一个告示牌大小的累加制点阵显示器，它持续地更新数据去显示目前美国国债总额以及每一个美国家庭所负担的债务金额。美国国债钟目前设置在美
闭前不圆唇元音闭前不圆唇母音是母音的一种，使用于许多口语语言之中，其国际音标的符号为 ⟨i⟩，相对应的X-SAMPA符号则为 ⟨i⟩。此母音非常普遍，几乎在所有超过三个母音的语言中都存在着。表
1924年冬季奥林匹克运动会美国代表团1924年冬季奥林匹克运动会美国代表团参加了在法国的霞慕尼举办的1924年冬奥会。该届冬奥会上美国代表团收获了1金2银1铜共计4块奖牌，位列奖牌榜第5。赫伯特·杜瑞 N. Gera
菝葜木科参见正文菝葜木科也叫萎瓣花科，共有4属7种，分布在南美洲、南非和东南亚的太平洋岛屿上。本科植物为灌木或藤本，单叶互生；小花，花瓣3；果实为蒴果或浆果。
田山花袋田山花袋（たやまかたい、1872年1月22日－1930年5月13日）是日本小说家。本名录弥（ろくや）。群马县馆林市出身。1890年（明治23年），上京，认识柳田国男。翌年在尾崎红叶处入门，尾崎的指示
李征庸李征庸（1848年12月26日－1902年1月22日），谱名佑钧，原名孝伯，改名韬，字特生，号铁船，四川省邻水县人。光绪三年丁丑科二甲第13名进士（1877年），曾任刑部贵州司主事、广东惠州府河源县(捐)、
奥斯卡·德·尼格里弗朗索瓦·奥斯卡·德·尼格里（法语：François Oscar de Négrier；1839年10月2日－1913年8月22日）法兰西第三共和国将领。出生于法国贝尔福，在普法战争期间在巴赞元帅率领的莱茵军
真木阳子真木阳子（日语：真木よう子，1982年10月15日－），日本女演员。千叶县印西市出生。原隶属Flying Box事务所，2018年1月，真木发表公开声明稿，表示已与事务所约满且不续约；2018年9月25日，加入L
田坝会馆田坝会馆，即双桂万天宫，又名双桂川主宫，位于中国四川省南充市嘉陵区双桂镇，是一处纪念“万天川主”李冰的川主信仰寺庙建筑，同时兼做四川土著人士会馆。因其位于双桂场田坝（四川话农田之意）之中，而被俗称为田坝会馆。双桂万天宫总面积约800平方米，始建于清乾隆五十六年（1791年），保存较为完。双桂万天宫山门上便刻有颂扬李冰治水功绩的门联“功同大禹昭千古，德沛苍生祀万年”和匾镌“利泽及人”等字。2002年12月27日公布为四川省文物保护单位。