法诺不等式

✍ dations ◷ 2025-12-10 11:26:14 #不等式,信息论

法诺不等式(Fano's inequality)也称为法诺引理(Fano lemma)是信息论中的一个定理,说明噪音信道中的平均信息损失和错误分类概率之间的关系。法诺不等式是罗伯特·法诺是1950年代于麻省理工学院教授博士讨论班的时候推导的,后来放在1961年编写的教科书中。

法诺不等式在信息论中,提供了解码器错误概率的下界。在统计学中,提供了密度估计(英语:Density_estimation)时极小化极大风险(英语:minimax risks)的下界。

用符号 H ( ) {\displaystyle H(\cdot )} 与之间的条件熵, X ~ {\displaystyle {\tilde {X}}} 的分类,表示分类错误的事件( e = { X X ~ } {\displaystyle e=\{X\neq {\tilde {X}}\}} 可能取值(有限个)的集合。

相关

  • 认知认知或认识(英语:cognition)在心理学中是指通过形成概念、知觉、判断或想象等心理活动来获取知识的过程,即个体思维进行信息处理的心理功能。认知过程可以是自然的或人造的、有
  • 粘著语素规范语素(英语:Bound morpheme)又称不自由语素、黏着语素,在语言学中,指不能独立存在,必须附属于其他语素或词根的语素。 与此相对的是自由语素。 以英语为例,大多数词缀都是规范语
  • 环丙三烯环丙三烯是一种假想的化合物,曾被认为是一种光谱学上检测到的三碳物质。它是一种环状的累积多烯烃。
  • 管乐器管乐器是泛指以管作为共鸣体的乐器。由吹奏者吹气或振唇,借由吹口装置带动管内空气震动发声。音的高低取决于管身的长度控制。管乐器包括以下两种铜管乐器最初以金属制作,而木
  • 诺福克县诺福克县(英语:Norfolk County)是位于美国马萨诸塞州的一个县,县治为戴德姆。根据2010年人口普查统计,诺福克县共有人口670,850人,其中白人占89.02%、亚裔美国人占5.5%、非裔美国
  • 环球航空800号班机环球航空800号班机(TWA800)是一班从美国纽约肯尼迪国际机场起飞,中途停留在法国巴黎戴高乐机场,目的地为意大利罗马-菲乌米奇诺机场的环球航空班机。1996年7月17日,班机搭载着212
  • 柏林国际广播电台柏林国际广播电台(德语:Radio Berlin International,缩写:RBI)是德意志民主共和国官方的对外国际广播电台,设立于1959年5月,隶属于民主德国广播电台。以对抗西德德国之声的宣传。该
  • 世界婴儿死亡率列表世界婴儿死亡率列表. 数据来源于2011年修订的联合国世界人口展望报告,取五年平均值, 和中央情报局世界概况, 2009年4月2日最后更新.婴儿死亡率(IMR)的是每千名活产婴儿的死亡人
  • 古拉人种古拉人种(Gullah)是一群说着克里奥尔语的非裔美国人。古拉人是非洲奴隶的后裔。他们曾生活于海岛及南卡罗尼亚州、乔治亚州及北佛罗里达州。在乔治亚州,常常被称呼为Geechees。
  • 冈茨-马瓦格机车车辆工厂冈茨-马瓦格机车车辆工厂(匈牙利语:Ganz–MÁVAG Mozdony-, Vagon- és Gépgyár),简称冈茨-马瓦格(匈牙利语:Ganz–MÁVAG),是匈牙利历史上一家大型机械工业企业和铁路机车车辆制