熵率

✍ dations ◷ 2025-11-29 16:53:06 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 高兴高兴(high)即快乐的情绪,另可能指:
  • 高铁线路印度高速铁路是指印度所有的高速铁路,目前皆在计划阶段,但在印度,已经有相当的政党与社会团体参与、讨论此议题。截至目前为止,印度除了跟日本签订一份合同外,亦无任何执行高速铁
  • 矩震级矩震级(记作 M w {\displaystyle M_{w}} 或 M
  • 牙宣牙宣是指以龈肉萎缩,牙根宣露,牙齿松动,经常渗血或渗脓为特征的疾病。牙宣是口齿科的常见病、多发病,早其多无明显症状,易被忽视,钽苦不及进治疗,日久牙齿失去气血濡养,以致动摇、脱
  • 彭胜竹彭胜竹(1950年2月12日-),中华民国空军二级上将,籍贯湖北省武昌市,生于台南市,成长于客家村落,客语及台语流利,毕业于空军官校60年班、美国空军战争学院(英语:Air War College),为中华民国
  • 汉堡高地《汉堡高地》(英语:Hamburger Hill),是根据越战1969年5月10日至20日美军攻击越南军防守的越南、老挝边界Dong Ap Bia高地史实改编为电影;在十天内美军战殁110人,越军战殁500人战况
  • 曹靖华曹靖华(1897年8月11日-1987年9月8日),原名曹联亚,河南卢氏人,中国翻译家、散文家、教育家,北京大学教授。曹靖华是河南卢氏县五里川路沟口村人。1919年在开封省立第二中学求学时,投
  • 斯蒂芬·科尔·克莱尼斯蒂芬·科尔·克莱尼(Stephen Cole Kleene,1909年1月5日-1994年1月25日)美国数学家、逻辑学家,主要从事对可计算函数的研究,而他的递归理论研究有助于奠定理论计算机科学的基础。
  • 陈士枚陈士枚(1794年-1866年),字勿斋,山西平定(今山西省平定县)人,清朝政治人物,同进士出身。道光六年(1826年)丙戌科进士,授吏部主事。道光十六年,任文选司主事。道光十八年,任吏部员外郎。道光
  • 初彭龄苏州沧浪亭初彭龄石刻像初彭龄(?-1825年),字颐园,山东莱阳市姜疃镇北黄村人。清代政治人物。官至工部尚书。乾隆十八年(1753年)迁居至今青岛市即墨区金口镇海堤村。乾隆三十六年(1771