熵率

✍ dations ◷ 2025-11-25 17:12:59 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 热浪热浪是指天气在某一段时间内持续地保持异常高的气温(相对于该地区多年平均气温而言),也有可能伴随有很高的空气湿度。这个术语通常与地区相联系,所以一个处于相对较热气候的地区
  • 导热热传导,是热能从高温向低温部分转移的过程,是 一个分子向另一个分子传递振动能的结果。各种材料的热传导性能不同,传导性能好的,如金属,还包括了自由电子的移动,所以传热速度快,可
  • 长胡子有胡女性,是指女性有像男性一样胡须的实际或假造现象,近来也成为政治宣示或时尚宣示。这是一种存在人类中,极其罕见的人体现象。有时,打睾酮的女性也会长胡子。
  • 斯科特诉桑福德案斯科特诉桑福德案(60 U.S. 393 (1857)),全称德雷德·斯科特诉桑福德案(Dred Scott v. Sandford),简称斯科特案(Dred Scott case),是美国最高法院于1857年判决的一个关于奴隶制的案件
  • 非洲灵猫属非洲灵猫(学名:Civettictis civetta)是非洲热带的麝猫。它们不像其他灵猫科般像猫,反而像短小的狗。它们的毛粗糙,有黑点及白间,面部呈白色,眼睛有黑斑及淡色的吻。它们的肛腺,可以
  • 塞勒姆 (俄勒冈州)塞勒姆 (英语:Salem)是美国俄勒冈州州府、马里昂县县治。位于该州西北部、威拉米特河畔。此地人口约15万,是仅次于波特兰的第二大城市,与周边的凯泽尔、伍德伯恩及达拉斯一起形成
  • 性感的残酷《性感的残酷》(英语:The Sexy Brutale)是一款由骑士游戏工作室以及龙舌兰工作室(英语:Tequila Works)共同开发的冒险解谜游戏。游戏已经于2017年4月发行于PlayStation 4、Microso
  • 截弯取直 (水文)截弯取直,一称作裁弯取直,是一种河道治理的方法,透过把弯曲的河道拉直,使河水流动速度加快,从而借助河水加速带动水中及水底的沉积物,减少沉积物在河曲地段沉积,有助防治洪水泛滥。
  • 阿舒拉节阿舒拉节(阿拉伯语:عاشوراء‎)原意为“第十”,发生在伊斯兰历每年穆哈兰姆月的第十天。在一些穆斯林国家,如阿富汗、伊朗、土耳其、阿塞拜疆、伊拉克、黎巴嫩、巴林和巴基
  • 墨西哥莱檬派墨西哥莱檬派(英语:Key lime pie),是由墨西哥莱檬汁、蛋黄和大量炼乳为主要原料做成的西式馅饼,起源于美国佛罗里达州。在2006年,佛罗里达州的众议院和参议院通过立法,定墨西哥莱檬