熵率

✍ dations ◷ 2025-12-07 13:09:26 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • dADP去氧腺苷二磷酸(Deoxyadenosine diphosphate,dADP)是一种与腺苷二磷酸相似的核苷酸,在五碳糖2号碳上的-OH基被氢原子取代。含有两个磷酸根、一个碱基腺嘌呤,以及五碳糖。
  • 自动驾驶汽车自动驾驶汽车,又称无人驾驶汽车、电脑驾驶汽车或轮式移动机器人,为一种运输动力的无人地面载具。作为自动化载具,自动驾驶汽车不需要人类操作即能感测其环境及导航。完全的自动
  • 德国疫情相关争议2019冠状病毒病德国疫情,介绍在2019-2020年冠状病毒病疫情在德国的情况,若无特殊注明,本条目中所有日期均为2020年。疫情最早于中国湖北省武汉市爆发,1月27日,巴伐利亚确诊了首宗
  • 天仁茗茶天仁茶业股份有限公司(英语:TenRen Tea Co., Ltd.,简称:天仁茶业,Ten Ren’s Tea,台证所:1233),是一家创始于1953年的台湾茶叶经销企业,旗下连锁门市名为“天仁茗茶”。
  • 金喜善金喜善(韩语:김희선,英语:Kim Hee-Seon ,1977年6月11日-),韩国女演员。金喜善就读11级时,参加韩国青春美少女大赛,并开始在电视上演出。她的第一套演出的电视剧是1993年播出的《恐龙先
  • 梅河口梅河口市为中国吉林省直辖县级市。梅河口市也是吉林省第七大、中国第21大肉类生产大县市,位于吉林省东南部,地处松辽平原与长白山区的过渡地带。城区规划面积81平方公里。下辖
  • 1900年夏季奥林匹克运动会第二届夏季奥林匹克运动会(英语:the Games of the II Olympiad,法语:les Jeux de la IIe Olympiade),是一场于1900年在法国巴黎举行的国际综合体育赛事。这次奥运会没有开幕式和闭
  • VIII族VIII族(中国大陆常称VIII族,CAS法称VIIIB族)是指元素周期表上第8、第9和第10族的合称。此三族元素的原子半径十分相近,因此它们具有相似的性质。其中位于第4周期的VIII族元素合
  • 埃拉·希尔图宁埃拉·希尔图宁(芬兰语:Eila Hiltunen,1922年11月22日-2003年10月10日),芬兰女性雕塑家,著名作品有赫尔辛基的西贝柳斯纪念碑(1967年)。一尊同样由她以相同概念创作较小型的雕像矗立
  • 洪灵菲洪灵菲(1902年-1934年),原名洪树森,学名洪伦修,字子常、素佛,笔名林曼青、林荫南、李铁郎等,广东潮安人,中国作家,中国左翼作家联盟成员。1922年考入广东高等师范学校。1926年加入中国