熵率

✍ dations ◷ 2025-11-23 12:13:55 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 货币美国 东帝汶 厄瓜多尔 萨尔瓦多 马绍尔群岛 密克罗尼西亚联邦 帕劳 巴拿马 津巴布韦 英属维尔京群岛 荷兰加勒比区 特克斯和凯科斯群岛美元(英语:United States Do
  • 普通话普通话是中华人民共和国政府认定的汉语通用语。普通话以北京语音为标准音,以北方话为基础,以典范的现代白话文著作为语法规范。普通话与汉族人口占比最高的官话方言区最为类似
  • 第比利斯第比利斯(格鲁吉亚语:თბილისი.mw-parser-output .IPA{font-family:"Charis SIL","Doulos SIL","Linux Libertine","Segoe UI","Lucida Sans Unicode","Code2000","Gent
  • 萨克森王储阿尔贝特阿尔贝(Albert I.,1828年4月23日-1902年6月19日),全名弗里德里希·奥古斯特·阿尔贝·安东·斐迪南·约瑟夫·卡尔·玛利亚·巴普蒂斯特·奈波姆克·威廉·克萨威尔·格奥尔格·
  • 办公楼办公室(office),又称写字楼,是一种让人们在其中办公(工作)的场所,通常是房间的形态,但随着电脑与网络的发达,也渐渐出现不需要实体空间的虚拟办公室(Virtual Office)。内部由办公室所组
  • 哈里猪笼草哈里猪笼草(学名:)是由爱德华猪笼草()和长毛猪笼草()杂交得到的自然杂交种。其亲本近缘关系非常密切,其形态特征为亲本的中间型,较难进行区分。其得名于园艺公司维奇苗圃的负责人哈里
  • 2014年国际足联世界杯外围赛 – 欧洲区I组2014年世界杯外围赛欧洲区I组(英语:2014 FIFA World Cup qualification UEFA Group I)是欧洲足协辖下2014年世界杯欧洲赛区外围赛的一个分组,包括上届世界杯冠军西班牙、法国、
  • 海红豆海红豆(学名:)又名相思豆、红豆,为豆科海红豆属的一种。落叶乔木。长圆形或卵状椭圆形的小叶互生,二回羽状复叶,4-6对羽片;白色或淡黄色小花成狭窄的总状花序;圆锥形花萼,顶部具有5个
  • 芬兰国徽芬兰国徽(芬兰语:Suomen vaakuna)于1560年在古斯塔夫一世的葬礼时被采用,同时也是芬兰共和国国徽和芬兰大公国国徽。在芬兰国徽法案中对国徽的描述为:“红色,在九朵银色玫瑰中,一只
  • 朗缪尔方程朗缪尔方程(英语:Langmuir equation,亦称为朗缪尔等温线、朗缪尔吸附方程或兰牟而方程或希尔-朗缪尔方程)建立了在一定温度下分子在固体表面的覆盖范围或吸附情况与固体表面之上