熵率

✍ dations ◷ 2025-12-08 23:29:46 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 面部神经麻痹贝尔氏麻痹症(Bell's palsy)是面部瘫痪之一种,由颅神经VII(面神经)的功能障碍引起,导致无力控制受影响一侧的面部肌肉。通常受影响一侧眼睛不能闭合。眼睛必须防止干燥,否则角膜可
  • 脑疟疾疟疾(拉丁语:Malaria,中文俗称打摆子、冷热病、发疟子)是一种会感染人类及其他动物的全球性寄生虫传染病,其病原疟原虫借由蚊子散播,隶属囊泡藻界(统称原生生物的生物类群之一),皆
  • 埃尔皮迪奥·基里诺埃尔皮迪奥·基里诺(Elpidio Rivera Quirino,1890年11月16日-1956年2月29日),菲律宾政治家,第6任菲律宾总统。基里诺出生于菲律宾南伊罗戈省美岸,早年在马尼拉土地局和警察局任职,19
  • 纳瓦特尔语纳瓦特尔语也叫纳瓦特语(Nāhuatl , Nāhuatlàtōlli .mw-parser-output .IPA{font-family:"Charis SIL","Doulos SIL","Linux Libertine","Segoe UI","Lucida Sans Unicode
  • 北极虾北极虾(学名:Pandalus borealis),又称北方长额虾。俗称北极甜虾,产自北极附近海域。栖息于北大西洋海域、北冰洋海域。多由加拿大和丹麦的捕捞船捕捞,以每年7月至8月捕捞所得为上
  • 张书伟第15届金曲奖“最佳重唱组合”入围张书伟(1980年11月4日-),台湾知名男演员,曾为台湾男子团体Energy的团长与主唱,至今发行8张音乐专辑,曾主持过数个节目,目前演出多档戏剧。2004年以
  • 维勒峰 (伯尔尼兹阿尔卑斯山脉)坐标:46°22′43.3″N 7°48′38.4″E / 46.378694°N 7.810667°E / 46.378694; 7.810667维勒峰(Wilerhorn),是瑞士的山峰,位于该国南部,由瓦莱州负责管辖,属于伯尔尼兹阿尔卑斯山
  • 羊口港羊口港是位于山东省寿光市羊口镇(旧称羊角沟镇)小清河南岸的一座河海联运港口。羊口港始建于1885年,因小清河经羊角沟新河道入渤海,河面较宽阔,河口无拦门沙。至1937年千吨级轮船
  • 大坪林站坐标:24°58′59″N 121°32′29″E / 24.98292°N 121.54134°E / 24.98292; 121.54134大坪林站位于台湾新北市新店区,为台北捷运松山新店线与环状线第一阶段之交会捷运车站
  • 封闭国家封闭国家,意思是一些对外封锁的国家。因此在那些国家内,人民基本上完全不能接收国外的资讯和消息;而国外也不轻易打听那些国家的消息。在过往历史中,这些国家的人民都被灌输要永