熵率

✍ dations ◷ 2025-12-08 10:06:19 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 心搏过速心跳过速(tachycardia、tachyarrhythmia),也称心动过速、心跳过快。是指心跳速度超出了正常范围,达到每分钟一百次以上的现象。剧烈的体育运动、紧张、焦虑或服用某些药物等可能
  • 眼科用药人体解剖学 - 人体生理学 组织学 - 胚胎学 人体寄生虫学 - 免疫学 病理学 - 病理生理学 细胞学 - 营养学 流行病学 - 药理学 - 毒理学眼科学是医学上研究眼部疾患一个分支,
  • 亚硝酸钠亚硝酸钠(NaNO2)常用于鱼类、肉类等食品的染色和防腐。纯净的亚硝酸钠是一种白色至浅黄色晶体。它有非常好的水溶性和吸湿性,水溶液呈弱碱性,pH约为9,易溶于液氨,微溶于乙醇、甲醇
  • 打狗打狗(Takao、Takau)为高雄市的旧地名,这个地名的最早中文纪录是1603年(明朝万历31年),陈第所著〈东番记〉:“东方夷人不知所自始,居澎湖外洋海岛中,起魍港、加老湾,历大员、尧港、打狗
  • 入侵古巴菲德尔·卡斯特罗约翰·肯尼迪猪湾事件(英语:Bay of Pigs Invasion、西班牙语:Invasión de Bahía de Cochinos),又称吉隆滩事件,是1961年4月17日,在中央情报局的协助下逃亡美国的
  • 奥地利社会民主党奥地利社会民主党(德语:Sozialdemokratische Partei Österreichs,缩写为SPÖ),1888年成立,当时取名为奥地利社会民主工人党,1934年被取缔。1945年重建为奥地利社会党,1991年6月改用
  • 卡西·阿弗莱克凯洛柏·卡西·麦奎尔·阿弗莱克-博尔特(英语:Caleb Casey McGuire Affleck-Boldt,1975年8月12日-)或简称卡西·阿弗莱克(英语:Casey Affleck),是一名美国男演员和导演。他常与演员及
  • 约翰·利思戈约翰·阿瑟·利思戈(英语:John Arthur Lithgow,发音: /ˈlɪθɡoʊ/ ,1945年10月19日-)是一位美国演员、音乐人和作家。他参与了许多媒体项目,包括话剧、电视、电影和广播。他还写
  • 祜塞祜塞(满语:ᡥᡡᠰᡝ,穆麟德:,太清:;1628年3月3日-1646年3月22日),爱新觉罗氏,追尊清太祖努尔哈赤之孙,礼烈亲王代善第八子。祜塞生于天聪二年正月二十八日(1628年3月3日)。顺治二年(1645年),
  • 第42回NHK红白歌合战《第42回NHK红白歌合战》于1991年12月31日在NHK音乐厅举行的NHK红白歌合战,并由NHK现场直播。第一部19时20分至20时55分,第二部为21时至23时45分。日本国民偶像团体SMAP首次登