熵率

✍ dations ◷ 2025-08-03 03:49:07 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 瞻博网络USAJuniper Networks(公司中文名称:瞻博网络,NYSE:JNPR)是一家网络通讯设备公司,创立于1996年2月,主要供应IP网络及资讯安全解决方案。Juniper Networks与爱立信、朗讯及西门子共同
  • 法兰克法兰克王国(拉丁语:Regnum Francorum;法语:royaume des Francs;意为“法兰克人的王国”)是5世纪至9世纪在西欧和中欧的一个王国,其疆域与罗马帝国在西欧的疆域基本相同。法兰克王国
  • 土拉河坐标:48°56′50″N 104°48′0″E / 48.94722°N 104.80000°E / 48.94722; 104.80000土拉河(蒙古语:Туул гол),是蒙古中北部的一条河流。全长704公里,流域面积49,840平方
  • 小生境生态位(Ecological niche),又称小生境、生态区位、生态栖位或是生态龛位,生态位是一个物种所处的环境以及其本身生活习性的总称。每个物种都有自己独特的生态位,借以跟其他物种作
  • 猛蛛亚目猛蛛下目(学名:Mygalomorphae,也称:Orthognatha),即原蛛亚目,是蜘蛛目下的一个下目,属于背突蛛亚目。毒牙相对新蛛亚目来说,其区别在于毒牙为平行状。 其下生物的寿命可达25年。蛛鲎
  • 中华人民共和国贫富不均中华人民共和国贫富不均是指在中华人民共和国的社会中,个人收入和财富不均衡的现象。中国共产党取得中国大陆统治权后,中国内地在改革开放前一直属于一个社会财富所有权分配平
  • 安姆丽塔·拉奥安姆丽塔·拉奥(印地语:अमृता राव,英语:Amrita Rao,1981年6月7日-)是印度女演员,主要出现在宝莱坞电影。她至今最为人所知的电影作品包括2006年的爱情电影《Vivah》 、《一
  • 伯恩哈德·希尔德布兰特·道森伯恩哈德·希尔德布兰特·道森(Bernhard Hildebrandt Dawson)是一位出生于美国的阿根廷天文学家。1890年9月21日,他出生在密苏里州堪萨斯城,1916年在密歇根大学获学士学位,从1913
  • 南关电影院南关电影院是一间位于广东省广州市越秀区的老牌戏院,门牌北京南路26号,占地面积760平方米,实用面积1500平方米。由于临近珠江边和北京路步行街,以前是广州人的拍拖(约会)去处之一
  • 青草回旋诗《青草回旋诗》(泰语:ลำนำหญ้า,法语:Rondeau de l'herbe)是泰国诗琳通公主于1971年所作的现代诗,格式为法国16世纪流行的回旋诗(英语:Rondeau (forme fixe)),全文共13行。《青