熵率

✍ dations ◷ 2025-11-26 00:50:21 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 传导系统心脏电传导系统(Electrical conduction system of the heart)可以使窦房结产生的脉动传播至心肌,并刺激心肌使其收缩。这种节奏性地刺激心肌使得心肌可以有效地收缩,将血液输运
  • 德里大学德里大学(英文:University of Delhi;DU)成立于1922年,是印度一所著名的高等院校,以其高标准高品质的教学和科研成果称著。德里大学设置许多本科以及以上专业课程,其中,以自然科学、
  • 道路施工道路施工是指部分道路或是整段道路,由于和道路有关的工程而无法使用,多半是因为路面(英语:Road surface)施工、或是下水道或是地下管线的施工,不过也有可能是因为发生严重车祸,需要
  • 马耳他峰会马耳他峰会是美国总统乔治·H·W·布什和苏联共产党中央委员会总书记米哈伊尔·戈尔巴乔夫在柏林墙倒塌的几周后,1989年12月2日-3日在马耳他召开的一次会议。这是戈尔巴乔夫1
  • [ALEXANDROS]是四人编制的日本摇滚乐团,所属唱片公司为UNIVERSAL J / RX-RECORDS,所属经纪公司为UKPM。团名原为,于2014年3月变更团名为。2015年3月18日主流出道。2001年在青山学院大学求学
  • Ti Beta-CTi Beta-C是一种钛合金材料,最初于1960年代被 Titanium Engineers Inc.和Titanium Engineers Ltd.两家英国公司注册为商标。Ti Beta-C的化学组成为:Ti-3Al-8V-6Cr-4Zr-4Mo其主
  • 千手喜云千手 喜云(永禄4年?1561年?-宽永5年1628年),日本战国时代、安土桃山时代的武将。养父为千手权之允元直,生父为青木土佐守,又称青木六之允久云,喜云为入道号之名。筑紫、立花、锅岛
  • 常乃花宽市常乃花寛市(1896年11月23日-1960年11月28日),本名山野边寛一,日本冈山县出身的大相扑力士,第31代横纲。他身高179cm,体重112kg。他生于冈山县冈山市,出生时体重达5公斤,被称为怪童。
  • 句荼国句荼国(韩语:구다),是存在于公元前1世纪至1世纪的古代朝鲜半岛北部部落国家。句荼国在盖马国附近,是汉朝玄菟郡属下的部落国家。高句丽大武神王高无恤在26年十月杀盖马国王,句荼国
  • HtopHtop是一款运行于Linux系统监控与进程管理软件,用于取代Unix下传统的top。与top只提供最消耗资源的进程列表不同,htop提供所有进程的列表,并且使用彩色标识出处理器、swap和内