统计距离

✍ dations ◷ 2025-09-11 15:47:19 #度量几何,统计分析

在统计学、概率论和信息论中,统计距离量化了两个统计对象之间的距离。统计对象可以是两个随机变量,两个概率分布或样本,或者一个独立样本点和一个点群之间的距离,或者更加广泛的样本点。

统计距离很多情况下不是由度量诱导的,它们不一定是对称的。一些统计距离也被称为统计区别度(statistical divergence)。

各种统计距离常常有许多名称。有时名称的相似性容易引起误解,有时不同作者或不同时期一些术语的意义也不尽相同。常见的有统计偏差(deviation),区分度(discriminant),区别度(divergence),对比函数(contrast function),度量等。信息论中也称为交叉熵(cross entropy),相对熵(relative entropy),discrimination information, information gain等。

给定一个集合 ,,其上的度量距离是一个非负实值函数 : × → R对任意的 中的 , , ,这个函数满足如下条件:

许多统计距离不满足度量距离的要求。不满足正定性的常常被称为伪度量,不满足对称性的通常被称为准度量,不满足三角不等式被称为半度量。只满足上述(1)和(2)条件的统计距离被称为区别度(divergence)。

f-区别度:KL区别度(相对熵), Hellinger区别度,全变差距离;

仁义熵;

延森-香浓区别度。

相关

  • 超声波焊接超声波焊接也就是利用超音波进行焊接的技术。在超声波焊接中,从电源接入的50赫兹或60赫兹的交流电先被装换为高频率信号。当焊接塑料时,工件相接触的地方在震动作用下摩擦生热
  • 置换反应置换反应又称单置换反应,是指一种元素或化合物的离子根与一种离子化合物发生的反应,狭义氧化还原反应是置换反应的一种,且必为广义的氧化还原反应。在反应中,关键在于还原性或氧
  • 汪承灏汪承灏(1938年1月10日-),生于江苏省南京市,中国物理学家,中国科学院声学研究所研究员。1958年毕业于北京大学物理系。2001年当选为中国科学院院士。
  • 正比在数学中,比例是两个非零数量 y {\displaystyle y} 与 x {\displaystyle x} 之间的
  • 大海雀大海雀(学名:Pinguinus impennis),又称大海燕,因外表和企鹅相似而有时又被称作北极大企鹅,是一种不会飞的鸟,曾广泛存在于大西洋周边的各个岛屿上,但由于人类的大量捕杀而在19世纪灭
  • 米线米线是对一种源自中国内出产的精制餐食,《食次》与《齐民要术》、《隋书》中“粲”条目有记述其制程,现制程繁复各地独立发展,光云南蒙自就有酸浆和干浆两种米线;以新鲜大米为原
  • 秦末民变秦末民变(前209年七月-前207年十月)指中国秦朝末年群雄起兵反秦之战争,又称秦末农民战争或秦末农民起义。秦灭楚后楚地流行“楚虽三户,亡秦必楚”之说。秦始皇死后一年,陈胜、吴广
  • 费兰度·哥林保费兰度·卡里奴·哥林保(Fernando Carreño Colombo,1979年01月15日-),出生于蒙特维多,乌拉圭职业足球运动员,司职后卫。
  • 李士淳李士淳(1585年-1665年),字仲垒,号二河,又号玉溪,福建清流(今三明)人,一说广东程乡(今梅州市梅县区)人,明朝政治人物。同进士出身。万历三十七年(1609年)中己酉科广东乡试第一名举人(解元)。崇
  • 种暠种暠(103年-163年),字景伯,东汉河南郡洛阳县(今河南省洛阳市)人。种暠初为县门下吏,河南尹田歆的外甥王湛推荐种暠,田歆以为名士应该隐居山泽,王湛说“山泽不必有异士,异士不必在山泽”