法诺不等式

✍ dations ◷ 2025-12-03 00:34:29 #不等式,信息论

法诺不等式(Fano's inequality)也称为法诺引理(Fano lemma)是信息论中的一个定理,说明噪音信道中的平均信息损失和错误分类概率之间的关系。法诺不等式是罗伯特·法诺是1950年代于麻省理工学院教授博士讨论班的时候推导的,后来放在1961年编写的教科书中。

法诺不等式在信息论中,提供了解码器错误概率的下界。在统计学中,提供了密度估计(英语:Density_estimation)时极小化极大风险(英语:minimax risks)的下界。

用符号 H ( ) {\displaystyle H(\cdot )} 与之间的条件熵, X ~ {\displaystyle {\tilde {X}}} 的分类,表示分类错误的事件( e = { X X ~ } {\displaystyle e=\{X\neq {\tilde {X}}\}} 可能取值(有限个)的集合。

相关

  • 无氧运动无氧运动(英语:Anaerobic exercise)是强度足够引起乳酸形成的体能锻炼。无氧运动被非耐力运动的运动员用于增强力量、速度和能力,而被健美运动员用于打造肌肉量。利用无氧运动发
  • 国际先驱论坛报《纽约时报国际版》(英语:New York Times International Edition),原名《国际先驱论坛报》(International Herald Tribune)、《国际纽约时报》(International New York Times),是《纽
  • 风语者《风语者》(英语:Windtalkers)是一部2002年美国战争片,以塞班岛战役时的美国海军陆战队及纳瓦霍族译码员(英语:Code talker)作为题材拍摄,由尼古拉斯·凯奇、亚当·比奇(英语:Adam Bea
  • 猪紧迫性综合症猪紧迫性症候群,或称猪紧迫性综合病症(英语:porcine stress syndrome,缩写:PSS),在舍饲的肉猪上常有发生。这种猪只在遭遇紧迫情形,如打斗,捆绑运送市场等常在中途突然死亡,充分表示无
  • ARPANET高级研究计划局网络(英语:Advanced Research Projects Agency Network),通称阿帕网(英语:ARPANET)是美国国防高级研究计划局开发的世界上第一个运营的数据包交换网络,是全球互联网的
  • Seyferth–Gilbert增碳反应Seyferth–Gilbert增碳反应(Seyferth-Gilbert homologation),又称Seyferth-Gilbert同系化反应芳酮(或醛)与重氮甲基膦酸二甲酯(Seyferth-Gilbert试剂)在叔丁醇钾存在下反应生成取代
  • 唐大尺唐大尺是中国古代的长度单位之一,长约29.6厘米。据万国鼎考证,“唐大尺的标准长度在0.2949米与0.2959米之间”,唐“后期渐有放长,有长到0.31米左右的”。 日本奈良正仓院藏唐尺
  • 随机上下文无关文法随机上下文无关文法(英语:Stochastic context-free grammar)即在上下文无关文法中,为每一个产生式规则赋予一个概率,标示应用一个产生式规则的可能性。
  • 海龙厅海龙厅,中国清朝末年设立的厅。光绪五年(1879年)置,治所在今吉林省梅河口市东北海龙镇。属奉天府。设抚民通判。二十八年(1902年)升为海龙府。
  • 周祖谟周祖谟(1914年11月19日-1995年1月14日),字燕孙,中国文字、音韵、训诂、文献学家。北京人,祖籍浙江杭州。1932年考入国立北京大学中国语言文学系。从罗常培学音韵学,毕业论文《篆隶