统计距离

✍ dations ◷ 2025-11-13 06:13:19 #度量几何,统计分析

在统计学、概率论和信息论中,统计距离量化了两个统计对象之间的距离。统计对象可以是两个随机变量,两个概率分布或样本,或者一个独立样本点和一个点群之间的距离,或者更加广泛的样本点。

统计距离很多情况下不是由度量诱导的,它们不一定是对称的。一些统计距离也被称为统计区别度(statistical divergence)。

各种统计距离常常有许多名称。有时名称的相似性容易引起误解,有时不同作者或不同时期一些术语的意义也不尽相同。常见的有统计偏差(deviation),区分度(discriminant),区别度(divergence),对比函数(contrast function),度量等。信息论中也称为交叉熵(cross entropy),相对熵(relative entropy),discrimination information, information gain等。

给定一个集合 ,,其上的度量距离是一个非负实值函数 : × → R对任意的 中的 , , ,这个函数满足如下条件:

许多统计距离不满足度量距离的要求。不满足正定性的常常被称为伪度量,不满足对称性的通常被称为准度量,不满足三角不等式被称为半度量。只满足上述(1)和(2)条件的统计距离被称为区别度(divergence)。

f-区别度:KL区别度(相对熵), Hellinger区别度,全变差距离;

仁义熵;

延森-香浓区别度。

相关

  • 黑人手语美国黑人手语(英语:Black American Sign Language,缩写作 BASL)又名黑人手语分支(Black Sign Variation,缩写作 BSV),是美国手语方言,在美国的非裔聋哑人群体中最为常见。作为美国手
  • 蛋鸡鸡(学名:Gallus gallus domesticus),是原鸡属原鸡中被人类驯化后而成的亚种,家鸡最初被驯化成为家禽的目的是提供廉价优质的动物蛋白质食品,是家畜及家禽中数量最多,分布也最广的。
  • 萨利克法萨利克法(英语:Salic law; 拉丁语:lex Salica),是中世纪以来西欧通行的法典。此法限制女性继承。至今,欧洲一些国家仍存在女性无权继承王位、世袭爵位的政治传统。在家族男性后裔
  • 软骨胶软骨胶(英语:Chondrin)是一种蓝白色的蛋白质-糖类复合体,呈明胶状,可通过在水中加热软骨制备。软骨是一种结缔组织,含有嵌入在软骨胶基体的细胞。软骨胶由软骨硬蛋白(chondroalbuno
  • 刘明朝刘明朝(1895年8月28日-1985年10月27日),号叆舲,台湾台南县柳营乡(今台南市柳营区)人。1922年3月毕业于东京帝国大学法学部政治科,曾参与组织台湾文化协会。1923年被任命为总督府判任
  • 理查德·海曼理查德·海曼(英语:Richard Hayman,1920年3月27日─2014年2月5日),是一名美国口琴演奏家、通俗音乐编曲和指挥家。1940年代,在米高梅电影公司从事编曲工作,并出品的《Girl Crazy(英
  • 唐纳德·贾德唐纳德·贾德(英语:Donald Judd、1928年6月3日-1994年2月12日)是美国的一名极简主义艺术家。他在作品中探索物体和其创造的空间的自主权和本质,追求没有层次的极自然展现。虽然他
  • 设计师交流之夜设计师交流之夜(英文:PechaKucha 或Pecha Kucha,日文:ペチャクチャ) 是一种演讲形式,该演讲规定使用20张演示文稿,并用20秒讲述一张的时间完成(即共6分40秒的演讲时间),旨在保证演讲
  • 约瑟夫·M·凯里约瑟夫·莫尔·凯里(英语:Joseph Maull Carey;1845年1月19日-1924年2月5日),是一位美国共和党的政治人物,曾在1911年至1915年担任怀俄明州州长,也当过怀俄明领地众议院议会代表和怀
  • 梅尔吉奥尔·约瑟夫·马丁·克尼塞尔梅尔吉奥尔·约瑟夫·马丁·克尼塞尔(Melchior Josef Martin Knüsel,1813年11月16日-1889年1月15日)是一位瑞士政治家,来自瑞士中部的卢塞恩州。瑞士联邦委员会委员(1855年-1875年