法诺不等式

✍ dations ◷ 2025-12-04 15:02:50 #不等式,信息论

法诺不等式(Fano's inequality)也称为法诺引理(Fano lemma)是信息论中的一个定理,说明噪音信道中的平均信息损失和错误分类概率之间的关系。法诺不等式是罗伯特·法诺是1950年代于麻省理工学院教授博士讨论班的时候推导的,后来放在1961年编写的教科书中。

法诺不等式在信息论中,提供了解码器错误概率的下界。在统计学中,提供了密度估计(英语:Density_estimation)时极小化极大风险(英语:minimax risks)的下界。

用符号 H ( ) {\displaystyle H(\cdot )} 与之间的条件熵, X ~ {\displaystyle {\tilde {X}}} 的分类,表示分类错误的事件( e = { X X ~ } {\displaystyle e=\{X\neq {\tilde {X}}\}} 可能取值(有限个)的集合。

相关

  • 参议院多数党(53)少数党(47)议长:南希·裴洛西(民主党) 多数党领袖(英语:Party leaders of the United States House of Representatives):斯坦利·霍耶(民主党) 少数党领袖(英语:Party leaders o
  • 马其顿方阵马其顿方阵是由马其顿国王腓力二世(前359年-前336年),所创的军队方阵阵型,以16乘16共256名手持长矛及盾牌的步兵所构成的正方形阵形。马其顿密集方阵由马其顿国王腓力二世所创,其
  • 礼记《礼记》,儒学经典之一,所收文章是孔子的学生及战国时期儒学学者的作品。西汉学者戴德将或稍早于他的刘向收集的130篇综合简化,一共得85篇,称为《大戴礼记》,后来其侄戴圣又将“
  • 马斯河默兹河(法语:Meuse)也称马斯河(荷兰语:Maas, Maes),发源于法国香槟-阿登大区上马恩省朗格勒高原,流经比利时,最终在荷兰注入北海,和莱茵河口连成三角洲,全长925公里,是欧洲的主要河流。
  • 和平条约和平条约,简称和约,是敌对双方所签署的一种条约,主要用以正式结束战争和武装冲突,签订双方通常是国家、政府或政治实体。当条约签署完成之后,双方的敌对状态将会结束。此与停战协
  • 效果律效果律(英语:law of effect),1905年美国心理学家爱德华·桑代克以(尚未发展完全的)行为制约背后的一个概念为基底所提出的理论。而那个行为制约背后的概念,是“在一个特定的情境
  • 珍珠港-希卡姆联合基地珍珠港-希卡姆联合基地(英语:Joint Base Pearl Harbor-Hickam)是相邻在夏威夷火奴鲁鲁的美国军事设施,这是一个融合了前美国空军希卡姆基地和美国海军珍珠港基地的美军设施,并于2
  • 大西洋舰队美国海军舰队司令部(United States Fleet Forces Command),前身是1906年成立的美国大西洋舰队。如今它主要负责大西洋水域内美国舰队的训练、调度等工作,下辖美国海军第2舰队。
  • 周本立 (安徽)周本立(1946年3月-),安徽肥东人。中国共产党党员。安徽大学中文系汉语言文学专业毕业,大学学历,文学学士。历任安徽省计划委员会办事员、副处长;省政府办公厅调研室副主任,第二本公
  • 厚缘拟枣贝厚缘拟枣贝(学名:)又称清齿宝螺(),为宝贝科拟枣贝属的动物。分布于印度-西太平洋区暖水区、地中海以及中国大陆的福建、台湾以南等地,属于暖海产。它们一般栖息于潮间带低潮线附近