熵率

✍ dations ◷ 2025-12-05 12:57:58 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • ST段ST节段(ST segment)为心电图学术语,表示QRS复合波(英语:QRS complex)至T波之间的间期,一般介于 0.005 至 0.150 秒之间(5 至 150 毫秒)。ST节段始于J点(英语:J-point)(即QRS复合波的终点),
  • 欧洲经济共同体欧洲经济共同体(英语:European Economic Community;简称:EEC),欧洲共同体中最重要的组成部分;法国、联邦德国、意大利、荷兰、比利时和卢森堡六国于1957年3月在罗马签订了《建立欧
  • 提通期提通期(英语:Tithonian)是侏罗纪的第十一个时期,年代大约位于152.1–145百万年前。名称来自希腊神话人物提托诺斯(Tithonus)。
  • 汉声广播电台汉声广播电台(英文:Voice of Han Broadcasting Network),简称汉声电台或汉声,成立于1942年,隶属于中华民国国防部,是台湾老字号广播电台之一。总部位于台北市中正区信义路一段。播
  • 肯特县肯特县(英语:Kent County)是美国罗德岛州中部的一个县,西邻康乃狄克州。面积487平方公里。根据美国2000年人口普查,共有人口167,090。县治东格林尼治(该州各县皆无县政府建制)。成
  • 恙螨科见内文恙螨科(学名:Trombiculidae;(/trɒmbᵻˈkjuːlᵻdiː/)是蛛形纲蜱螨亚纲螨形总目恙螨目(Catalogue of Life作前气门目)恙螨总科之下的一个科,常见于农作物。这些物种的幼虫
  • 相等在数学的领域中,若两个数学对象在各个方面都相同,则称他们是相等的。这就定义了一个二元谓词等于,写作“ = {\displaystyle =} 上唯一满足
  • 克莱门特学院克莱门特学院(Klementinum)是捷克首都布拉格市中心的一组历史建筑群,目前用作捷克的国家图书馆。克莱门特学院的历史可以追溯到11世纪一座朝拜圣克莱门特的小圣堂。在中世纪,多
  • 因州和纸因州和纸(现日本鸟取县的纸)初期形态在1050前被记载于《延喜式》之中。《延喜式》又称《延喜格式》,《延喜格式》是日本平安时代中期编写的法令细则。是平安时代的三大格式之一
  • 非洲女王号《非洲女王号》(The African Queen)是一部1952年的美国冒险电影,改编自C·S·福雷斯特1935年的同名小说。该片由约翰·休斯顿导演,山姆·斯皮格制片,约翰·休斯顿和詹姆斯·阿吉