熵率

✍ dations ◷ 2025-11-26 17:13:08 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • Platyzoa扁虫动物原本是扁形动物门的同义词,此处是几个门的统称,属于两侧对称动物,也被归类为扁虫动物总门(学名:Platyzoa),但此分类尚未成为共识。本总门包括以下门:扁形动物和腹毛动物没有
  • 粪便,又称屎、大便、便便,部分地区俗称㞎㞎,是动物经肛门或者泄殖腔从消化系统中排出的废弃物。食物被生物的消化系统吸收部分养分及水分后,剩余未被利用的残渣,则是属于排遗物的
  • 潜江市潜江市为湖北省中南部的一个省直辖县级市(副地级市),位于江汉平原腹地,北枕汉水,南接岳阳至长沙,东邻武汉通黄石,西接荆州达三峡。 318国道和沪蓉高速、沪渝高铁横穿东西,随岳高速
  • 苯甲酸银苯甲酸银是一种有机化合物,化学式为C6H5COOAg或写成PhCOOAg。苯甲酸银可由硝酸银和苯甲酸钠反应得到:苯甲酸银在300℃便发生分解(氮气气氛中),产物见下表。其反应历程为:自由基在
  • 唐朝与契丹、奚的战争唐朝与奚、契丹(两蕃)的战争,是7世纪到9世纪唐朝和奚、契丹的一系列战争。奚、契丹在唐太宗贞观二十二年(648年)时归顺唐朝,建立了两个羁縻州饶乐都督府、松漠都督府。唐高宗显庆
  • 原口一博原口一博(1959年7月2日-) ,日本政治家,日本众议院议员(7期)。总务大臣(第12-13代)、内阁府特命担当大臣(地域主权推进担当)、佐贺县议会议员(2期)。麻生内阁 (模板)(2009年9月16日—2010年6
  • 八打灵县八打灵县(马来语:Daerah Petaling),是马来西亚雪兰莪州中部的一个县。其面积为484.32平方公里,人口于2010年为1,782,375。该县被雪兰莪州内六个县及吉隆坡环绕,顺时针为鹅唛县、吉
  • 郭襄郭襄,是金庸小说《神雕侠侣》和《倚天屠龙记》中的人物。为金庸小说中峨眉派的开创者,暗恋杨过。郭襄眉目娇美,神姿秀丽,可爱纯洁之中不失豪爽,天真烂漫之中又不失聪慧。个性我行
  • 博隆博隆兴中信息科技,创建于2011年。主要产品是存贮系统信息安全服务器,磁带库信息安全服务器,数据库安全服务器,应用信息安全服务器和密钥管理器。博隆参与制定及支持行业各技术
  • 欧洲粉蝶欧洲粉蝶又名欧洲凤蝶(学名:),是粉蝶科中的一种蝴蝶,也是其模式种。欧洲粉蝶雄蝶的上面是奶白色的。前翅基部及沿肋脉有黑色斑点,第二翅脉顶端及末端呈黑色,一些标本在第三间隙有窄