熵率

✍ dations ◷ 2025-09-14 12:49:09 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 风疹风疹(英语:rubella, German measles, three-day measles),又称德国麻疹或三日麻疹,是一种由风疹病毒(英语:Rubella virus)感染所造成的疾病。本病的症状轻微,半数患病者通常不会有自
  • 变量在初等数学里,变量或变元、元是一个用来表示值的符号,该值可以是随意的,也可能是未指定或未定的。在代数运算时,将变量当作明确的数值代入运算中,可以于单次运算时解出多个问题。
  • 东海道新干线东海道新干线(日语:東海道新幹線/とうかいどうしんかんせん Tōkaidō Shinkansen */?)是日本一条连接东京站与新大阪站之间的新干线路线,不但是日本第一条高速铁路路线,也是全
  • 约巴龙约巴龙属(属名:Jobaria)又译酋巴瑞亚龙,是种蜥脚下目恐龙,生存于侏罗纪中后期的尼日,年代约1亿6700万到1亿6100万年前。约巴龙是以当地游牧民族神话中的一种动物“Jobar”为名。化
  • 陈建文陈建文(1965年9月-),男,汉族,福建龙海人,中华人民共和国政治人物,现任中国文学艺术界联合会党组成员、副主席、书记处书记。
  • 商业伦理后设伦理学 规范性 · 描述性 效果论 义务论 美德伦理学 关怀伦理学 善与恶 · 道德生物伦理学 · 网络伦理 · 神经伦理学(英语:Neuroethics) · 医学 工程 
  • 星露谷物语《星露谷物语》(英语:Stardew Valley)是一款由ConcernedApe开发,由呵呵鱼工作室于2016年发行的模拟类角色扮演游戏。在星露谷物语中,玩家所扮演的主角会远离办公室工作的烦扰,在一
  • 突尼斯大学突尼斯大学(阿拉伯语:جامعة تونس‎,法语:Université de Tunis)是一所建立于1988年、位于突尼斯突尼斯市的公立大学,学校学生数在25,000-30,000人之间。外交官赫迪·阿纳
  • 莫阿纳·卡凯塞斯莫阿纳·卡凯塞斯(Moana Carcassés Kalosil,(1963-01-27)1963年1月27日- ),瓦努阿图政治家。2013年3月23日起就任瓦努阿图总理,他是瓦努阿图历史上出任总理的第一位归化公民。卡
  • 能源催化剂能源催化剂(Energy Catalyzer)是意大利科学家安卓·罗西(Andrea Rossi)与Sergio Focardi发明的冷核聚变反应器。它已经获得意大利专利,但不是以设备名义申请。安卓·罗西发现用某