法诺不等式

✍ dations ◷ 2025-12-06 01:53:43 #不等式,信息论

法诺不等式（Fano's inequality）也称为法诺引理（Fano lemma）是信息论中的一个定理，说明噪音信道中的平均信息损失和错误分类概率之间的关系。法诺不等式是罗伯特·法诺是1950年代于麻省理工学院教授博士讨论班的时候推导的，后来放在1961年编写的教科书中。

法诺不等式在信息论中，提供了解码器错误概率的下界。在统计学中，提供了密度估计（英语：Density_estimation）时极小化极大风险（英语：minimax risks）的下界。

用符号 $H(\cdot )$ 与之间的条件熵， ${\tilde {X}}$ 的分类，表示分类错误的事件（ $e=\{X\neq {\tilde {X}}\}$ 可能取值（有限个）的集合。

相关

自我哲学自我哲学（英语：philosophy of self）是一个经验主体与所有其他的事物区别的身份条件。当代有关自我本性的探讨与人格本性、个人身份相关的讨论有所不同。“自我”一词有时被认为
德拜德拜（符号为D）是一种CGS制的矢量单位。它是偶极矩（或称电偶极矩）的非国际制单位（non-SI metric system|metric unit）。这个单位为纪念物理学家彼得·德拜而以其名字命名。德拜被
汤姆·基博尔樱井奖休斯奖章卢瑟福奖法拉第奖汤姆·基博尔（英语：Tom Kibble，1932年12月23日－2016年6月2日），英国物理学家，英国皇家学会院士，英国伦敦帝国学院布莱克特实验室（Blackett Labora
普林斯巴期普林斯巴期（英语：Pliensbachian）是侏罗纪的第三个时期，年代大约位于190.8–182.7百万年前。
亲核加成有机化学中，亲核加成（Nucleophilic addition）是反应物的π键受亲核试剂进攻而被取代，形成两个新的共价键。加成反应局限于以下一些含多重键的底物：对于碳－杂原子多重键例如 C＝O 或
font color=#ffffff湖北/font湖北省高等学校列表，是中国大陆高等学校列表的湖北省部分。截至2017年5月31日，湖北共有36所公立本科高校、32所民办本科高校、51所公立专科高校、10所民办专科高校、14所成人
国际人权文书国际人权文书是指与国际人权法及保护人权有关的条约及国际文件的总称，可分为“宣言”及“公约”两类。“宣言”不具法律约束力，而“公约”是在国际法下具有法律约束力的文书。
威廉·B·班克黑德国家森林威廉·B·班克黑德国家森林（英语：William B. Bankhead National Forest）是亚拉巴马州的四座美国国家森林之一，占地面积181,230英亩（733平方千米），内有亚拉巴马州境内唯一一条国家荒
NHK德岛放送局NHK德岛放送局，是日本放送协会位于德岛县德岛市的地方放送局，也是负责主管当地事务的放送局。
奇奇克利亚河奇奇克利亚河（乌克兰语：Чичиклія），是乌克兰的河流，位于该国南部，属于南布格河的支流，发源自柳巴希夫卡以西，流经敖德萨州和尼古拉耶夫州，河道全长156公里，流域面积2,120平方公