法诺不等式

✍ dations ◷ 2025-04-26 12:06:08 #不等式,信息论

法诺不等式(Fano's inequality)也称为法诺引理(Fano lemma)是信息论中的一个定理,说明噪音信道中的平均信息损失和错误分类概率之间的关系。法诺不等式是罗伯特·法诺是1950年代于麻省理工学院教授博士讨论班的时候推导的,后来放在1961年编写的教科书中。

法诺不等式在信息论中,提供了解码器错误概率的下界。在统计学中,提供了密度估计(英语:Density_estimation)时极小化极大风险(英语:minimax risks)的下界。

用符号 H ( ) {\displaystyle H(\cdot )} 与之间的条件熵, X ~ {\displaystyle {\tilde {X}}} 的分类,表示分类错误的事件( e = { X X ~ } {\displaystyle e=\{X\neq {\tilde {X}}\}} 可能取值(有限个)的集合。

相关

  • 埃迪卡拉动物群埃迪卡拉生物群(英语:Ediacaran biota)又称艾迪卡拉生物群,是一种神秘的管状或叶状生物,生活在前寒武纪时代(6亿3500万年前-5亿4200万年前)。它们是目前所发现最早的多细胞生物。最
  • 国家预防腐败局1999年规定:印章直径4.5厘米,中央刊国徽,由国务院制发。最高人民检察院:反贪污贿赂总局国家预防腐败局,是已撤销的中华人民共和国的国家级预防腐败专门机构,主要负责全国防腐败工
  • 木寺昌人木寺昌人(日语:木寺昌人,1952年10月10日-)出生于日本东京都,毕业于东京大学法学部,为日本政治人物和外交官。1952年,出生在日本东京都,东京大学法学部毕业。1976年,进入外务省。1993年
  • 莆仙语莆仙语(兴化平话字:Pó-sing-gṳ̂),又称兴化语(Hing-hua̍-gṳ̂)、兴化话或莆仙话,是福建兴化民系(莆仙民系)的母语,属汉藏语系汉语族闽语支,通行于中国福建东部沿海的莆仙地区(又称兴
  • 所知障所知障(jñeyāvaraṇa),又译为智障、理智,佛教术语,二障之一,所知障是大乘的别教所断的惑,又可称为无始无明。
  • 多边形二面体多边形二面体是由2个多边形面组成的多面体,是一种二面体,是一种由两个共用相同的一组边的多边形面组成的多面体。在三维欧几里德空间中,如果它的面是平的,他们就会属于退化的多
  • 范伟范伟(1962年9月2日-),辽宁沈阳人,中国小品演员、影视演员。以《不成问题的问题》获得第53届金马奖最佳男主角和第7届北京国际电影节最佳男主角。1978年,16岁的范伟拜沈阳曲艺团的
  • 集体无政府主义集体无政府主义(Collectivist anarchism)指一种革命的无政府主义,它主张废除国家和生产资料的私有制,实现生产者自己对生产资料的集体所有、控制和管理。为了实现生产资料的集体
  • 科罗拉多大学博尔德分校银色与金色科罗拉多大学博尔德分校(英语:University of Colorado Boulder;常用缩写:CU Boulder)是科罗拉多大学系统(英语:University of Colorado)的旗舰校。它成立于1876年,比科罗拉
  • 奥诺雷·德·巴尔扎克奥诺雷·德·巴尔扎克(法语:Honoré de Balzac,1799年5月20日-1850年8月18日),原名奥诺雷·巴尔扎克(Honoré Balzac),法国19世纪著名作家,法国现实主义文学成就最高者之一。他创作的