法诺不等式

✍ dations ◷ 2025-08-14 08:34:26 #不等式,信息论

法诺不等式（Fano's inequality）也称为法诺引理（Fano lemma）是信息论中的一个定理，说明噪音信道中的平均信息损失和错误分类概率之间的关系。法诺不等式是罗伯特·法诺是1950年代于麻省理工学院教授博士讨论班的时候推导的，后来放在1961年编写的教科书中。

法诺不等式在信息论中，提供了解码器错误概率的下界。在统计学中，提供了密度估计（英语：Density_estimation）时极小化极大风险（英语：minimax risks）的下界。

用符号 $H(\cdot )$ 与之间的条件熵， ${\tilde {X}}$ 的分类，表示分类错误的事件（ $e=\{X\neq {\tilde {X}}\}$ 可能取值（有限个）的集合。

相关

吉布提历史吉布提位于非洲之角。远古时期是朋特国的一部分。在中世纪成为伊法特和阿达尔苏丹国的一部分。19世纪成为法国殖民地。1977年独立。人类在吉布提居住至少可以追溯至新石器时
贡特朗圣贡特拉姆（Guntram，又拼写为 Gontram、Gontran、Gunthram 或 Gunthchramn， 532年－592年1月28日），别号战争乌鸦，生于苏瓦松，从561年到592年为勃艮第国王。贡特拉姆是墨洛温王朝开创
八音定诀《八音定诀》为清朝（1875年）叶开恩所编著的一部以厦门音主，混合著漳泉腔的闽南语音韵学书籍。
卡普拉弗兰克·罗素·卡普拉（英语：Frank Russell Capra，1897年5月18日－1991年9月3日），意大利裔美国导演。弗兰克·卡普拉一共得到奥斯卡最佳导演奖达3次，加上提名达6次；奥斯卡最佳影片奖2
佛蒙特共和国佛蒙特共和国（英语：Vermont Republic）是指1777年-1791年管理佛蒙特地区的政府。1779年，佛蒙特地区的28个城决定从英属的新罕布什尔和纽约殖民地独立，废除本地的奴隶制。佛蒙特人
阿巴·勒那阿巴·P·勒那，全名阿伯拉罕·帕塔亚·勒那（英语：Abraham "Abba" Ptachya Lerner），也作阿巴·帕塔亚·勒那（英语：Abba Psachia Lerner，是一位生于俄罗斯的英国经济学家。阿巴·P·勒
刘伯承回忆录《刘伯承回忆录》为中华人民共和国元帅刘伯承的回忆录，出版于1981年，书中分两部分，前一部分为刘伯承写的回忆文章，回忆了自己从长征到进军大西南结束的生涯，后面还有几篇刘伯承回
出口王仁三郎出口王仁三郎（1871年8月27日－1948年1月19日）是日本的一位宗教家，为新兴宗教大本教的圣师。他为大本教教义的整理和发展做出了巨大贡献，是大本教实质上的创始人。原名上田喜三郎（う
詹姆斯·科洛锡莫文森佐·科洛锡莫（英语：Vincenzo Colosimo，1878年2月16日－1920年5月11日），绰号詹姆斯·“大吉姆”·科洛锡莫（James "Big Jim" Colosimo）或钻石吉姆（Diamond Jim），生于意大利卡拉布里亚
奥古斯特王子尼古拉斯·奥古斯特（Nikolaus August，1831年8月24日－1873年3月4日），是瑞典贝尔纳多特王朝国王奥斯卡一世之第四子，亦最小之儿子，他于1849年进入乌普萨拉大学学习，于1851年加入瑞典皇