条件熵

✍ dations ◷ 2025-12-09 09:29:12 #信息学熵,信息论

在信息论中，条件熵描述了在已知第二个随机变量 $X {\displaystyle X}$ 可以理解，对于确定的 >0，表达式 0 log 0 和 0 log (/0) 应被认作等于零。

当且仅当 $Y {\displaystyle Y}$ 和确定的组合系统的联合熵为 $\mathrm {H} (X,Y)$ ：

链式法则接着上面条件熵的定义：

条件熵的贝叶斯规则（英语：Bayes' rule）表述为

$H(Y|X)=H(X,Y)-H(X)$ $H(Y|X)=H(X,Y)-H(X)$ and $H(X|Y)=H(Y,X)-H(Y)$ $H(X|Y)=H(Y,X)-H(Y)$ 。对称性意味着 $H(X,Y)=H(Y,X)$ $H(X,Y)=H(Y,X)$ 。将两式相减即为贝叶斯规则。

在量子信息论中，条件熵都概括为量子条件熵。

相关

月球瞬变现象月球瞬变现象（英语：transient lunar phenomenon (TLP) 或 lunar transient phenomenon (LTP)）是月球表面亮度、色泽或外观上的短暂变化。有关月球瞬变现象的说法至少可追溯至10
黄褐牛肝菌蕈伞凸面黄褐牛肝菌（学名Boletus impolitus）是牛肝菌属下的一种真菌。蕈伞上有细小的萌发孔。它们是食用菌，但很少会被食用。它们会在栎属上生长。黄褐牛肝菌的蕈伞先呈半球形，
大谷直人大谷直人（おおたになおと；英语：Naoto Ōtani、1952年6月23日－）为日本的法官。北海道赤平市出身。就读过东京都立富士高等学校（日语：東京都立富士高等学校・附属中学校）、东京大学
隆都话广东省中山市沙溪、大涌、南蓢、三乡及火炬开发区等地；中山闽语是汉藏语系汉语族闽语支闽南语在广东省境内的一种方言，通行于古香山县之隆都、得能都、四大都、谷都和恭常都等
杨忠道杨忠道（英语：Chung-Tao Yang，1923年5月4日－2005年9月14日），中华民国数学家。出生于浙江平阳，1946年毕业于浙江大学数学系，指导老师为苏步青教授（1948年获选为第一届中央研究院院士）。1
琉球汉字陶文 ‧ 甲骨文 ‧ 金文 ‧ 古文 ‧ 石鼓文籀文 ‧ 鸟虫书 ‧ 篆书（大篆 ‧ 小篆）隶书 ‧ 楷书 ‧ 行书 ‧ 草书漆书 ‧ 书法 ‧ 飞白书笔画
筏驮摩那筏驮摩那，或译笩駄摩那、伐达摩那（梵语：वर्धमान Vardhamāna，约前599年－前527年，意谓光荣者），原名尼乾陀若提子（Nigaṇṭha jñāta putta），或尼干子，或尼犍，著名古印度宗教思想家
盛冈站盛冈站（日语：盛岡駅〔盛岡驛〕／もりおかえき〔もりをかえき〕 */?）位于日本岩手县盛冈市，为东日本旅客铁道（JR东日本）与IGR岩手银河铁道的铁路车站。2002年（平成14年）入选东北车站
软X射线暂现源软X射线暂现源（英语：Soft X-ray transient，缩写：SXT）是某种类型的致密天体和某种类型的正常低质量天体（即质量仅为太阳质量分数的天体）。这些天体显示出低能量级别，或软X射线辐射，但
格赖芬贝格格赖芬贝格（德语：Greifenberg）是德国巴伐利亚州的一个市镇。总面积8.21平方公里，总人口2154人，其中男性1071人，女性1083人（2011年12月31日），人口密度262人/平方公里。