条件熵

✍ dations ◷ 2025-12-03 03:03:58 #信息学熵,信息论

在信息论中，条件熵描述了在已知第二个随机变量 $X {\displaystyle X}$ 可以理解，对于确定的 >0，表达式 0 log 0 和 0 log (/0) 应被认作等于零。

当且仅当 $Y {\displaystyle Y}$ 和确定的组合系统的联合熵为 $\mathrm {H} (X,Y)$ ：

链式法则接着上面条件熵的定义：

条件熵的贝叶斯规则（英语：Bayes' rule）表述为

$H(Y|X)=H(X,Y)-H(X)$ $H(Y|X)=H(X,Y)-H(X)$ and $H(X|Y)=H(Y,X)-H(Y)$ $H(X|Y)=H(Y,X)-H(Y)$ 。对称性意味着 $H(X,Y)=H(Y,X)$ $H(X,Y)=H(Y,X)$ 。将两式相减即为贝叶斯规则。

在量子信息论中，条件熵都概括为量子条件熵。

相关

多腺苷酸化多腺苷酸化（英语：Polyadenylation）是指多聚腺苷酸与信使RNA（mRNA）分子的共价链接。在蛋白质生物合成的过程中，这是产生准备作翻译的成熟mRNA的方式的一部分。在真核生物中，多聚腺苷
剑线虫属见内文剑线虫属（学名：Xiphinema），又名匕首线虫属，是一种栖息于植物根部的潜移性外寄生线虫动物。本属物种会对农作物造成巨大经济损失，能影响葡萄、草莓、酒花及其他经济作物。主
泰坦提坦（古希腊语：Τιτάν，读音为.mw-parser-output .IPA{font-family:"Charis SIL","Doulos SIL","Linux Libertine","Segoe UI","Lucida Sans Unicode","Code2000","Gentium"
ZigBeeZigBee，也称紫蜂，是一种低速短距离传输的无线网络协议，底层是采用IEEE 802.15.4标准规范的媒体访问层与物理层。主要特色有低速、低耗电、低成本、支持大量网络节点、支持多种
马凯雷雷大学马凯雷雷大学（Makerere University）是乌干达规模最大的大学，位于首都坎帕拉。它在1922年成立时，只是一所技术学校；1963年成为东非大学一部分。1970年东非大学一分为三时，马凯雷雷
OKB－52设计局切洛梅设计局（俄语：НПО машиностроения）始于1955年，以弗拉基米尔·尼古拉耶维奇·切洛梅名字命名，设计局代码OKB-52。1958年，切洛梅设计局首先在全苏提出了多级
幼猫猫（学名：Felis Catus或Felis silvestris catus），通常指家猫，为小型猫科动物。根据遗传学及考古学分析，人类驯养猫的纪录可追溯至10,000年前的肥沃月湾地区，古埃及人饲养猫的纪录可
埃里克·韦斯坦因埃里克·沃尔夫冈·韦斯坦因（英语：Eric Wolfgang Weisstein，1969年3月18日－），生于美国印第安纳州，为数学及科学领域百科全书编纂者，沃尔夫勒姆研究公司员工，编纂MathWorld、ScienceWo
埃米勒·卢贝埃米勒·弗朗索瓦·卢贝（Émile François Loubet） (法语发音：.mw-parser-output .IPA{font-family:"Charis SIL","Doulos SIL","Linux Libertine","Segoe UI","Lucida Sans Un
硫酸氢铬硫酸氢铬（英语：Chromium(III) bisulfate），又称三硫酸氢铬，是一种无机化合物，是一种铬盐或硫酸盐，由三价铬组成，化学式为Cr(HSO4)3，是一种酸式盐硫酸氢铬由三个硫酸氢根离子和一个三价