法诺不等式

✍ dations ◷ 2025-12-03 13:13:30 #不等式,信息论

法诺不等式(Fano's inequality)也称为法诺引理(Fano lemma)是信息论中的一个定理,说明噪音信道中的平均信息损失和错误分类概率之间的关系。法诺不等式是罗伯特·法诺是1950年代于麻省理工学院教授博士讨论班的时候推导的,后来放在1961年编写的教科书中。

法诺不等式在信息论中,提供了解码器错误概率的下界。在统计学中,提供了密度估计(英语:Density_estimation)时极小化极大风险(英语:minimax risks)的下界。

用符号 H ( ) {\displaystyle H(\cdot )} 与之间的条件熵, X ~ {\displaystyle {\tilde {X}}} 的分类,表示分类错误的事件( e = { X X ~ } {\displaystyle e=\{X\neq {\tilde {X}}\}} 可能取值(有限个)的集合。

相关

  • 奥托二世奥托二世(Otto II,955年—983年12月7日),东法兰克国王(961年—983年在位),罗马帝国皇帝(967年起与父亲共治)。皇帝奥托一世与伦巴第的阿德莱德之子。奥托二世在961年父皇尚在世时即已
  • 皮钦语皮钦语(英语:Pidgin,/ˈpɪdʒᵻn/,或pidgin language),又称混杂语言,一种简化版本的自然语言,这种语言来自于两个或两个以上的群体,他们之间没有共同语言,为了彼此沟通而发展出的语言
  • 杆菌状核糖核酸病毒科杆菌状核糖核酸病毒科: Barnaviridae名称来源: Barna:杆菌状类型(bacilliform)-核糖核酸(RNA)的缩并字。
  • 民主和平论Portal:政治民主和平论,简称民主和平,是一种国际关系、政治学、和哲学的理论。该理论认为,所有实行民主制度的国家(更正确的说,所有自由民主制国家)不会或极少与另一个民主国家发
  • 饮冰室文集《饮冰室文集》是梁启超在(清)光绪二十八年(1902年)自选的文集,以编年体印行,广智书局出版。光绪三十一年(1905年),民国四(1915年)年改为分类体,中华书局出版。民国五年(1916年),收入新民说
  • 杭州市临安区临安区是中国浙江省杭州市下辖的一个市辖区,位于浙江省西北部。秦汉属会稽郡余杭县。东汉建安十六年(211年)分余杭置临水县,西晋太康元年(280年)改临安县,唐代武德七年(624年)于於潜
  • 比科尔人比科拉诺人,是菲律宾第15大的族群。比科拉诺人主要分布于吕宋岛东南部半岛部分,集中于阿尔拜省、南甘马粦省、北甘马粦省、卡坦端内斯省、他们也住在奎松省。比科拉诺人人口有
  • JoWooD娱乐JoWooD娱乐(英语:JoWooD Entertainment)是一家于1995年建立的奥地利游戏公司。公司由Dieter Bernauer、Johann Reitinger、Johann Schilcher和Andreas Tobler于1995年在埃本塞
  • 陕西广播电视台青春广播陕西广播电视台青春广播,简称陕西青春广播,该频率于2007年5月开播,初名“朝阳广播”,后改名“少儿广播”、“青春调频”,2010年6月改现名。
  • 格拉尼特峰格拉尼特峰(英语:Granite Peak),海拔12,807英尺(3,904米),是美国蒙大拿州的自然最高点,同时也是美国国内的第十高峰。它位于帕克县阿布萨罗卡-熊牙荒原(英语:Absaroka-Beartooth Wilde