熵率

✍ dations ◷ 2025-04-04 20:47:21 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 野史野史又称稗史,是指正史上无纪录,或者正史上纪录为“传闻”的史事,多是民间的街谈巷说及遗闻佚事。惟野史不一定虚假,《汉书·艺文志》引如淳之言,“细米为稗,街谈巷说,甚细碎之言也
  • 彻辰汗布延(蒙古语:Буян,1554年-1604年),尊号彻辰汗(蒙古语:Сэцэн хаан),蒙古大汗,察哈尔部第四任可汗。明史称之为“卜言台周”。扎萨克图汗图们的长子,1592年继位。在他统治期
  • 兰科菌根兰菌根(英语:Orchid mycorrhiza, OM)是兰科植物与真菌所形成的一种菌根。兰菌根对许多兰科植物种子的萌发相当重要,因为许多兰科的种子不具有任何养分储备,完全以菌异养的方式透
  • 什切青什切青(波兰语:Szczecin.mw-parser-output .IPA{font-family:"Charis SIL","Doulos SIL","Linux Libertine","Segoe UI","Lucida Sans Unicode","Code2000","Gentium","Gentiu
  • 系统风险系统风险是指当整个系统出现失效或倒闭的风险。在金融领域中,系统风险被称呼为金融系统不稳定,其原因是出现一些特殊事件,导致情况不断恶化而最终出现灾难性结果。 最近的研究
  • 石墙事件石墙暴动(英语:Stonewall riots),又称石墙起义(英语:Stonewall uprising)、石墙反抗(英语:Stonewall rebellion),是1969年6月28日凌晨发生在美国纽约市格林尼治村石墙酒吧的一连串自发
  • 一氧化铬一氧化铬的化学式为CrO, 又称氧化亚铬或氧化铬(II)。它是一种黑色粉末,有着氯化钠晶型。次磷酸及其盐能将三氧化二铬还原为一氧化铬:一氧化铬在空气中迅速被氧化。一氧化铬也可
  • 拥有神之舌的男人《拥有神之舌的男人》(日语:神の舌を持つ男,英语:),为2016年7月8日至9月9日于日本TBS电视台金22时段(22:00 - 22:54,JST)播出的电视连续剧,总共10集,由向井理主演,此剧为导演堤幸彦声称
  • 发明家列表发明家列表罗列“物件发明家”和“方法发明家”两类。早期以“物件发明家”居多,随着世界性技术与商业不断融合、发展与深化,“方法发明家”有增多的趋势。
  • 2005年安曼爆炸案2005年安曼爆炸案是2005年11月9日在约旦首都安曼的三座酒店发生的连续三起爆炸,导致56人死亡,300多人受伤。受到炸弹袭击的三座酒店分别是拉迪森、君悦和戴斯酒店,它们都位于安