熵率

✍ dations ◷ 2025-12-11 07:44:21 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 热那亚热那亚(意大利语:Genova,旧译柔鲁、热诺瓦)是意大利北部的港口城市,属于利古里亚大区,是该大区首府,并且是意大利第六大城市。热那亚是个历史很悠久的古城。早在古罗马建城之前,利古
  • 主宰多米那特制(英语音译:Dominate,拉丁语原文:Dominus),又称罗马君主制、主宰,是罗马帝国晚期实行的一种专制政体。此前罗马帝国一直实行的是以“第一公民”为中心的元首制。三世纪危
  • 油墨墨水是一种含有色素或染料的液体,通常是由颜料、连结料、溶剂、助剂等组成的混合物,外观为具有一定的流动性的胶浆状物质。墨水被用于书写或绘画。最早的墨水有使用金属、胡桃
  • 成田国际机场成田国际机场(日语:成田国際空港/なりたこくさいくうこう Narita Kokusai Kūkō */?;IATA代码:NRT;ICAO代码:RJAA),通称成田机场(成田空港),原名为新东京国际机场(新東京国際空港/しん
  • RaSOsub4/sub硫酸镭是一种无机化合物,化学式为RaSO4,有强放射性。它难溶于水,溶度积为3.66×10-11。硫酸镭可以通过氢氧化镭和硫酸钠反应得到:
  • 育幼袋育幼袋(英语:pouch,又译育儿囊)是有袋类雌性个体身上的一个特殊构造。“有袋类”一辞源自拉丁文中的marsupium,意思就是“囊袋”。与其他哺乳类相比之下,有袋类的幼仔在发育相当早
  • 罗伯特·塞西尔,第一代切尔伍德的塞西尔子爵埃德加·阿尔杰农·罗伯特·加斯科因-塞西尔,第一代切尔伍德的塞西尔子爵,CH,PC,QC(Edgar Algernon Robert Gascoyne-Cecil, 1st Viscount Cecil of Chelwood,1864年9月14日-1958
  • 艾玛·提尔曼艾玛·提尔曼(英语:Emma Tillman,1892年11月22日-2007年1月28日),美国长寿女性,超级人瑞。她在2007年1月18日加拿大人瑞朱莉·温妮弗雷德·伯特兰(Julie Winnefred Bertrand)逝世后,成
  • 罗伯特·斯皮策罗伯特L.斯皮策(Robert L. Spitzer,1932年5月22日-2015年12月25日),精神科医师,是建立现代精神障碍分类的主要人物。他是已退休的美国纽约市哥伦比亚大学精神病学教授,曾在哥伦比亚
  • 佩斯领导力业绩模型佩斯领导力业绩模型是一个以财务业绩来区分领导者的领导力模型,它与关注领导者人格,行为技能和商业胜任力的两类传统领导力模型有着显著区别。该模型由泰德·普林斯博士于2002