法诺不等式

✍ dations ◷ 2025-06-07 21:28:24 #不等式,信息论

法诺不等式(Fano's inequality)也称为法诺引理(Fano lemma)是信息论中的一个定理,说明噪音信道中的平均信息损失和错误分类概率之间的关系。法诺不等式是罗伯特·法诺是1950年代于麻省理工学院教授博士讨论班的时候推导的,后来放在1961年编写的教科书中。

法诺不等式在信息论中,提供了解码器错误概率的下界。在统计学中,提供了密度估计(英语:Density_estimation)时极小化极大风险(英语:minimax risks)的下界。

用符号 H ( ) {\displaystyle H(\cdot )} 与之间的条件熵, X ~ {\displaystyle {\tilde {X}}} 的分类,表示分类错误的事件( e = { X X ~ } {\displaystyle e=\{X\neq {\tilde {X}}\}} 可能取值(有限个)的集合。

相关

  • 氰化锌氰化锌(化学式:Zn(CN)2)是锌的氰化物。白色有光泽柱状结晶或无定形块状固体或粉末。难溶于水和乙醇,微溶于热水,能溶于稀的无机酸并分解释放出氰化氢,溶于碱金属氰化物、氢氧化物
  • 1933年授权法《授权法》(德语:Ermächtigungsgesetz),正式名称是《解救人民与帝国苦难法》(Gesetz zur Behebung der Not von Volk und Reich),在1933年3月23日由德国帝国议会(英语:Reichstag (We
  • 亚穆苏克罗亚穆苏克罗(法语:Yamoussoukro;法语发音:.mw-parser-output .IPA{font-family:"Charis SIL","Doulos SIL","Linux Libertine","Segoe UI","Lucida Sans Unicode","Code2000","Ge
  • 永安话永安话(闽中语:)是一种汉语族闽语支闽中语的一种方言,也是闽中语的代表方言。主要通行于福建省永安市。可以分成4小片声母17个。零声母以外的 16 个声母如下表:其中为一个音位,在
  • 兴化平话字兴化平话字(莆仙语:Hing-hua̍ báⁿ-uā-ci̍;英语:Hinghwa Romanized)是一种用于书写莆仙语(兴化语)的罗马拼音系统,为教会罗马字之一。1890年由基督教美以美会传教士蒲鲁士夫妇发
  • 约翰·阿什贝利约翰·劳伦斯·阿什贝利(英语:John Lawrence Ashbery,1927年7月28日-2017年9月3日)是一位美国诗人。他出版过超过20卷诗集,赢得了美国几乎所有的主要诗歌奖项,包括以诗集《凸面镜中
  • 轻量级交互多媒体环境轻量级交互多媒体环境(Lightweight interactive multimedia environment,简称为LIME),是在国际电信联盟(ITU)标准化的ITU-T Rec H.762。现在已进入了电视广播和通信完全融合的时代
  • 康斯坦丁·冯·诺伊拉特康斯坦丁·冯·纽赖特男爵(Konstantin Freiherr von Neurath,1873年2月2日-1956年8月14日) 是一位德国外交官、政治人物,1932年至1938年担任德国外交部长;1939年至1941年担任波希
  • 法式善《清代学者象传》第一集之法式善像法式善(满语:ᡶᠠᡧᡧᠠᠨ,穆麟德:,太清:;1753年-1813年),字开文,号时帆,又号梧门。伍尧氏,内务府正黄旗包衣管领下蒙古人。清朝著名诗人、学者,官至国子
  • 李时良李时良(1894年-1974年),又名圣锡,浙江宁波人,上海工人运动的领袖之一。李时良于1924年起在江南造船所作工。1927年曾参加过上海工人第三次武装起义。此后一直担任造船所工会常委、