熵率

✍ dations ◷ 2025-12-06 15:10:38 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 发光二极管发光二极管(英语:Light-emitting diode,缩写为LED)是一种能发光的半导体电子元件,透过三价与五价元素所组成的复合光源。此种电子元件早在1962年出现,早期只能够发出低光度的红光,
  • 淤泥淤泥(Silt),又称沉泥或粉土,是泥土的基本组成成分之一。地质学中,淤泥是介于沙土及黏土之间,长约2到62微米、直径4到9微米的一种颗粒状物料(英语:granular material),主要由石英及长石
  • 米兰主教座堂米兰主教座堂(意大利语:Duomo di Milano;伦巴底语:Domm de Milan)位于意大利伦巴底大区米兰市中心的大教堂广场,是天主教米兰总教区的主教座堂。它从始建到建成共花费了六个世纪,是
  • 中国大陆高等学校列表语言 - 文化 - 体育 - 节日 政府 - 政治 - 法律 - 经济 艺术 - 文学 - 舞蹈 - 戏曲中国大陆高等学校列表列出中华人民共和国的普通高等学校、成人高等学校和军事高等学
  • 建筑史建筑史(History of architecture)指建筑物的历史或对建筑历史的研究。古埃及建筑是指古埃及时期在尼罗河一带所发展出之具有文明影响力且组织结构多元化的建筑风格。目前这些
  • 有个学校叫南开《有个学校叫南开》(英语:Nankai--The Tale of a School),是一部由中国中央电视台、天津广播电视台联合制作纪录南开大学、南开中学等南开系列学校百年校史的电视纪录片。纪录片
  • 明石奈津子明石奈津子(1999年8月17日- ),是日本的女子偶像团体 NMB48 Team M的成员。大阪府出身。京乐吉本所属。2012年2015年2019年石田优美(副队长) | 泉绫乃 | 川上千寻(队长) | 河野奈奈帆
  • Enigma (游戏)是一个运输解谜电子游戏,游戏理念基于,但授权协议是GPL的获得广泛好评。地形逻辑益智游戏,快速灵活使用定位设备(如合适的鼠标)。地形用Lua脚本编写。有关卡编辑器。Enigma自身有
  • 清朝兵部尚书列表下表列出清朝兵部尚书:
  • 施妍施妍(朝鲜语:시연 ;英语:Xiyeon,2000年11月14日-),本名朴正炫(朝鲜语:박정현 ),幼时曾以儿童演员身份拍过一些广告、电戏剧。2008年开始在Pledis娱乐当训练生,经过长达9年的时间,于2017