条件熵

✍ dations ◷ 2025-11-24 17:34:43 #信息学熵,信息论

在信息论中，条件熵描述了在已知第二个随机变量 $X {\displaystyle X}$ 可以理解，对于确定的 >0，表达式 0 log 0 和 0 log (/0) 应被认作等于零。

当且仅当 $Y {\displaystyle Y}$ 和确定的组合系统的联合熵为 $\mathrm {H} (X,Y)$ ：

链式法则接着上面条件熵的定义：

条件熵的贝叶斯规则（英语：Bayes' rule）表述为

$H(Y|X)=H(X,Y)-H(X)$ $H(Y|X)=H(X,Y)-H(X)$ and $H(X|Y)=H(Y,X)-H(Y)$ $H(X|Y)=H(Y,X)-H(Y)$ 。对称性意味着 $H(X,Y)=H(Y,X)$ $H(X,Y)=H(Y,X)$ 。将两式相减即为贝叶斯规则。

在量子信息论中，条件熵都概括为量子条件熵。

相关

哈斯蒙尼哈斯蒙尼王朝（英语发音：/ˌhæzməˈniːən/ (audio)；希伯来语：.mw-parser-output .script-hebrew,.mw-parser-output .script-Hebr{font-size:1.15em;font-family:"Ezra SIL"
树脂毒素树脂毒素（英语：Resiniferatoxin、RTX）是一种天然的化学物质，存在于大戟属的树脂大戟（英语：Euphorbia resinifera）（学名：Euphorbia resinifera，一种常见于摩洛哥的仙人掌类植物）中，也存在
薁.mw-parser-output ruby.zy{text-align:justify;text-justify:none}.mw-parser-output ruby.zy>rp{user-select:none}.mw-parser-output ruby.zy>rt{font-feature-settings:
维生素B9叶酸（Folate、folic acid）也称为维生素B9、维生素M、维生素Bc，属于维生素B。叶酸可用于治疗由叶酸缺乏症引起的贫血。叶酸也是孕妇的营养补充品。在新生儿的神经管缺损（英语：Neur
霉气霉气，又称衰气，晦气，是东亚传统宗教（如道教、日本神道、朝鲜巫教、民间信仰等）的中心观念，是指令人不洁与沾上厄运的原因。血污、死亡、疾病与性交、喝酒、食肉也是令人不洁的原因
长葛市长葛市是中国河南省许昌市下辖的一个县级市。长葛市位于河南省中部，辖境南与建安区接壤，西与禹州市毗邻，北与新郑市、尉氏县交界，东与鄢陵县相连。面积650平方公里，人口77.7万人（2
引翔区请负责验证本条目版权的维基人在标识侵权后，于Wikipedia:页面存废讨论/疑似侵权内容的部分加上： {{subst:CopyvioVFDRecord|1=引翔区}} 并在本条目创建者的对话页中加入：此条
奥尔米兹 (堪萨斯州)奥尔米兹（英语：Olmitz）是一个美国城市，位于堪萨斯州巴顿县。根据2010年人口普查，该市的人口为114人。奥尔米兹位于38°30′59″N 98°56′15″W / 38.51639°N 98.93750°W / 38.
吉列尔莫·卡尔沃吉列尔莫·卡尔沃（英文名：Guillermo Calvo）是美国国家经济研究局（NBER）的研究员，（2001-2006年）美洲开发银行前首席经济学家，2000-2001年担任拉丁美洲和加勒比经济协会( LACEA)主席,20
荷兰宝贝松饼荷兰宝贝松饼有时又称为德式松饼、铁锅松饼、德式布丁、俾斯麦布丁或荷兰泡芙（Dutch baby pancakes, German pancake, Bismarck, Dutch puff）, 是通常供应早餐的美式甜食，介于