熵率

✍ dations ◷ 2025-07-12 15:54:41 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 戒断症状药物戒断(英语:drug withdrawal),一种因为停止药物治疗,或停止娱乐性药物、烟草、酒精的服用,而产生的综合症(symptoms)。在产生物质依赖的现象后,突然停止服用药物,在12至48小时内就
  • ZZ, z是拉丁字母中的第26个字母,也是最后一个字母。这个字母的英语念法有2种:英国等大部分英语口音会念作.mw-parser-output .IPA{font-family:"Charis SIL","Doulos SIL","Lin
  • 劳埃德·沙普利劳埃德·斯托韦尔·沙普利(英语:Lloyd Stowell Shapley,1923年6月2日-2016年3月12日)是美国著名的数学家和经济学家。他是美国加州大学洛杉矶分校数学和经济学名誉教授。他在数理
  • 行政等级表行政等级表(英语:Executive Schedule);(美国法典第5卷(英语:Title 5 of the United States Code)第5311章–第5318部分)是指美国政府行政分支内政治任命官员(即除去总统和副总统之外
  • 插画家插画家又称插画师(英语:illustrator)是以绘制插画为职业的人,主要工作包括替书籍、杂志、报纸、说明书、小说、教科书等刊物绘制插画、封面,也从事绘画贺卡、海报、广告、喷画、
  • 凯库拉坐标:42°24′03″S 173°40′53″E / 42.4008174°S 173.681386°E / -42.4008174; 173.681386凯库拉(Kaikoura)是位于新西兰南岛坎特伯雷区东北部的一座小镇。2013年,凯库拉有
  • 合肥话合肥话是江淮官话(淮语)洪巢片中的一种方言,主要使用于合肥市辖区、肥东县、肥西县以及长丰县南部的三十头、双墩、岗集等乡镇。合肥历史上战乱频繁,人口流动极大,在五胡乱华、衣
  • 玛丽·布莱尔玛丽·布莱尔(英语:Mary Blair,1911年10月21日-1978年7月26日),美国女画家,出生于俄克拉荷马州的麦卡莱斯特,幼年曾随家搬到德克萨斯州,最后在加利福尼亚州定居。毕业于加利福尼亚州
  • 伯特伦·伊夫林·斯迈西斯伯特伦·伊夫林·斯迈西斯(Bertram Evelyn (Bill) Smythies,1912年7月11日-1999年6月27日)为英国林务员和鸟类学家。伯特伦·伊夫林·斯迈西斯出生于印度,父亲伊夫林·阿瑟·斯迈
  • 德国联邦铁路E10型电力机车克虏伯、亨舍尔、克劳斯-玛菲(机械部件)衍生型号:德国联邦铁路E10型电力机车(德语:DB-Baureihe E 10)是德国联邦铁路根据标准化电力机车计划开发的首款电力机车,主要运用至快速列车