熵率

✍ dations ◷ 2025-11-24 00:32:33 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 抗核抗体抗核抗体,英文简称ANA(Anti-nuclear antibody),又称为抗核因子,英文简称ANF(Anti-nuclear factor),是一种直接与细胞核内容物相对抗的自身抗体,这种抗体会将体内正常组织当作外来物进
  • 各省区预期寿命本表列出中华人民共和国各省级行政区(包括省、直辖市、自治区、特别行政区)在2013~2016年的预期寿命。
  • 格言格言又称箴言,可以作为人们行为规范的言简意赅的语句,因其不仅凝聚古圣先贤的人生智慧,同时具备简练生动的表达方式。从句法结构角度说,格言是相对完整、相对独立的句子,可以独立
  • Ω-3脂肪酸ω−3脂肪酸(Omega-3 fatty acids)又称n−3脂肪酸,是一类不饱和脂肪酸,其中最重要的3种为:ALA(存在于植物中的油),EPA和DHA(这二种发现存在于海洋动植物油中)。从脂肪酸分子中距离羧基
  • 初经初潮(英语:menarche),又称为初经,是指第一次月经。代表少女的身体经历青春期的变化。初潮通常在胸部开始发育后一两年出现。初潮代表子宫内膜受到雌激素刺激而发育了,也代表从子宫
  • 牙签牙签,中国古代称为剔牙签,是一根小木片、细竹棒或细金属棒,用来在饭后清除牙齿缝中的食物,亦可做为餐叉的替代品刺取食物送入口中之用。春秋战国时代书签以象牙制成,称为牙黎,类似
  • 日照重庆《日照重庆》(Chongqing Blues)是由王小帅执导的电影,2010年11月5日在中国上映。本片根据一宗在云南省某超市里发生的绑架案所改编而成的。片名“日照重庆”不仅说明了电影是发
  • 各国汽车产量列表这是一个汽车生产国家列表,基于世界汽车工业国际协会在2011年4月发布的数据。数据包括乘用车,轻型商用车,轻型客车,卡车,公共汽车和长途客车。单位(辆)
  • 列兹金斯坦列兹金斯坦(列兹金语:Лезгистан;俄语:Лезгистан;迪多语:Лезгиме)可以是指:古希腊历史学者希罗多德、斯特拉波和老普林尼皆提到建立高加索阿尔巴尼亚的列兹
  • 泰豪泰豪公司于1988年7月成立,时为江西清华科技开发部。公司旗下泰豪科技股份有限公司 (上交所:600590)为中国智能建筑电气产业首家上市公司,历为泰达环保指数(深交所:399358)成分股。19