熵率

✍ dations ◷ 2025-11-30 05:01:33 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • Dobzhansky, Theodosius费奥多西·格里戈里耶维奇·多布然斯基(乌克兰语:Теодо́сій Григо́рович Добжа́нський,俄语:Феодо́сий Григо́рьевич Д
  • 古羊齿属Archaeopteris fissilis Archaeopteris halliana Archaeopteris hibernica Archaeopteris macilenta Archaeopteris obtusa古蕨属(学名:Archaeopteris),又名古羊齿属,是一属已灭
  • 丙氨酸转氨酶谷丙转氨酶(英文:Alanine transaminase,缩写ALT)是一种转氨酶(EC 2.6.1.2,存在于血浆及多种身体组织中,但最常见与肝脏关联。也叫血清谷氨酸丙酮酸转氨酶(英语:serum glutamate pyruv
  • 北狄是中国春秋时期,周朝诸侯国对居于漠以南的北方人群称呼,传说北狄是源出黄帝的孙子始均,实际上是晚商时从华夏分裂出来的部族。与东夷、西戎及南蛮,合称四夷。春秋时,北狄分为
  • 巴勒斯坦地区巴勒斯坦(希腊语:Παλαιστίνη;阿拉伯语:فلسطين‎;希伯来语:.mw-parser-output .script-hebrew,.mw-parser-output .script-Hebr{font-size:1.15em;font-family:"Ez
  • 1991年 札幌第十五届冬季世界大学生运动会于1991年3月2日至3月10日在日本的札幌举行,这也是冬季大学生运动会首次在亚洲举行。吉祥物为沙比(Sappy,是一种鹿)值得注意的是,一种以检测DNA的方
  • 行政院公共工程委员会行政院公共工程委员会,简称工程会,成立于1995年7月20日,是中华民国监督政府工程建设的中央部会。工程会组改大逆转 中时电子报2012-8-15
  • 门诺低地德语门诺低地德语 (Plautdietsch), 原本是东低地德语低普鲁士各的一支,曾受到荷兰语之影响,出现在第16世纪和17世纪普鲁士之维斯瓦河地区 (今日属波兰领土)。门诺低地德语现今主要分
  • 利耶帕亚利耶帕亚(拉脱维亚语:Liepāja,德语:Libau)位于拉脱维亚西部波罗的海沿岸,是该国第三大城市和重要的不冻港。
  • 克里斯蒂娜公主 (瑞典)克里斯蒂娜公主(瑞典语:,1943年8月3日—),古斯塔夫·阿道夫亲王的幼女,卡尔十六世·古斯塔夫的四姐。1974年,克里斯蒂娜与企业高管托尔德·马格努松(英语:Tord Magnuson)结婚,两人共有