熵率

✍ dations ◷ 2025-06-29 02:20:52 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 逆转录病毒逆转录病毒科(学名:Retroviridae)又称“反转录病毒科”,分为双链DNA逆转录病毒和正链RNA逆转录病毒。它们增殖时都有将遗传物质RNA逆转录为DNA的过程(前者逆转录反链RNA,后者逆转
  • 欧洲安全与合作组织欧洲安全与合作组织(简称欧安组织;英文:Organization for Security and Co-operation in Europe,缩写:OSCE)是世界上主要的国际组织之一,前身是1975年于冷战期间成立的“欧洲安全与
  • HSsub2/sub二硫化一氢是一种短寿命的自由基,化学式为HS2,最初于1950年在光谱中检测到。HS2可以在纯H2S或H2S/Ar混合物的气相脉冲辐射分解中产生,而H2S/H2体系中无法观测到HS2。在H2S和氟
  • 查尔斯·林白查尔斯·奥古斯都·林德伯格(英语:Charles Augustus Lindbergh,又译林白,1902年2月4日-1974年8月26日),美国飞行员、作家、发明家、探险家与社会活动家。他于1927年驾驶单引擎飞机
  • 茴香茴香(学名:Foeniculum vulgare,英语:Fennel),也被称为小茴香、甜茴香。为伞形科茴香属的开花植物种。原产于地中海沿岸与东南亚的原生种,但目前已广泛被种植在世界许多地方,特别是在
  • 望外鸟类望外鸟类(学名:Inopinaves),是新鸟类的一支,包含麝雉目和陆鸟类,其亲缘关系由2015年的一项系统发育研究证明。传统上并不认为麝雉目与陆鸟类是近亲,而是将麝雉目置于更原始的位置。
  • 儒格Mini-14半自动步枪半自动鲁格Mini-14(英语:Ruger Mini-14)、鲁格Mini-30(英语:Ruger Mini-30)和鲁格Mini-6.8(英语:Ruger Mini-6.8)是一系列由美国枪械公司斯特姆,鲁格公司(Sturm Ruger)以M1卡宾枪及M14自
  • 2019冠状病毒病疫情对2020年夏季奥林匹克运动会的影响 除特别注明外,本文所有时间均以东九区时间(UTC+9)为准。SARS-CoV-2(病毒)国际运输本条目记叙2019冠状病毒病疫情对第32届夏季奥林匹克运动会的影响。受疫情影响,众多东京奥运会
  • 热红酒热红酒(芬兰语:glögi,瑞典语:glögg,丹麦语:gløgg,挪威语:gløgg)是一种添加了香料并通常带有酒精的热饮。热红酒的最早形式是一种带有香料的蒸馏酒,在斯堪的纳维亚地区冬天时以骑马
  • 约翰·格奥尔格·瓦格勒约翰·格奥尔格·瓦格勒(德语:Johann Georg Wagler,1800年3月28日-1832年8月23日)是德国爬虫两栖类学家和鸟类学家。瓦格勒于1800年3月28日出生在纽伦堡,父亲是市法院的法官。他在