法诺不等式

✍ dations ◷ 2025-04-04 11:07:31 #不等式,信息论

法诺不等式(Fano's inequality)也称为法诺引理(Fano lemma)是信息论中的一个定理,说明噪音信道中的平均信息损失和错误分类概率之间的关系。法诺不等式是罗伯特·法诺是1950年代于麻省理工学院教授博士讨论班的时候推导的,后来放在1961年编写的教科书中。

法诺不等式在信息论中,提供了解码器错误概率的下界。在统计学中,提供了密度估计(英语:Density_estimation)时极小化极大风险(英语:minimax risks)的下界。

用符号 H ( ) {\displaystyle H(\cdot )} 与之间的条件熵, X ~ {\displaystyle {\tilde {X}}} 的分类,表示分类错误的事件( e = { X X ~ } {\displaystyle e=\{X\neq {\tilde {X}}\}} 可能取值(有限个)的集合。

相关

  • 中新世中新世(英语:Miocene,符号:MI)为地质年代新近纪的第一个时期,开始于2300万年前到533万年前,介于渐新世与上新世之间。中新世是由查理斯·莱尔所命名的。这个名称来自希腊语μείω
  • 闭锁小带紧密连接(Tight junction),又称闭锁小带(Zonula occludens)、封闭小带,是细胞膜共同构成一个事实上液体无法穿透的屏障的两个细胞间紧密相连的区域。它是一类只在脊椎动物中出现的
  • 质子交换膜燃料电池质子交换膜燃料电池(英语:Proton Exchange Membrane Fuel Cell,简称:PEMFC),又称固体高分子电解质燃料电池(Polymer Electrolyte Membrane Fuel Cells),是一种以含氢燃料与空气作用产
  • 休闲潜水指以娱乐休闲观光为目的的潜水活动,其最大潜水深度一般不超过水下30米,极限为水下40米。40米以下为技术潜水(英语:Technical diving)范畴。有下列情况者不应进行水下潜水活动:游泳
  • 1447年约前1445年,古埃及法老图特摩斯三世打败了米坦尼国王,夺占米坦尼王国位于幼发拉底河西岸的土地。
  • 血色素沉着症血色沉着病(Hemochromatosis),又名血色素沉着症、血铁沉积症或血色病是指:
  • 风神庙坐标:22°59′50″N 120°11′45″E / 22.9971131°N 120.1957301°E / 22.9971131; 120.1957301风神庙是位于台湾台南市中西区的直辖市定古迹,是全台湾现存唯一一间主祀风神
  • 斯万特·阿伦尼乌斯斯万特·奥古斯特·阿伦尼乌斯(瑞典语:Svante August Arrhenius,1859年2月19日-1927年10月2日),瑞典化学家。提出了电解质在水溶液中电离的阿伦尼乌斯理论,研究了温度对化学反应速
  • 美食健康频道美食健康频道(英语:Food & Health Channel)是新加坡新电信拥有的频道,专为播出内地生活资讯节目。
  • 轮介虫属见内文轮介虫属(学名:)是龙介虫科下一属已灭绝的环节动物,生存于晚侏罗纪启莫里期至始新世。它们自由生长在浅海的沙质基底上。轮介虫带脊的活体总是紧紧地平卷著,一面微微凹下,另