熵率

✍ dations ◷ 2025-02-24 12:04:19 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 冷是热的相反词,用来形容一种低温的客观条件,是一种缺乏热能及温暖的状态。冷也用来表示对于类似状态的主观感受。理论上最冷的温度是绝对零度,在开尔文温标下是0 K,若以摄氏温
  • 德国泡菜德国酸菜(德文:Sauerkraut;/ˈsaʊərkraʊt/;德语发音:.mw-parser-output .IPA{font-family:"Charis SIL","Doulos SIL","Linux Libertine","Segoe UI","Lucida Sans Unicode","
  • 火刑火刑,是死刑的一种,意即将犯人绑在柱上用火活活烧死。在不同的文化中,火刑是常用的死刑之一,是为极其残酷的刑法。例如:古中国的炮烙;还有西方的中世纪到近代早期,异端裁判所用此方
  • 开普勒186f开普勒186f(英语:Kepler-186f)是一颗环绕红矮星开普勒186的太阳系外行星,距离地球约492光年。该行星是第一颗在太阳以外恒星旁发现的适居带内半径与地球相若的系外行星。NASA 的
  • 梨孢假壳科梨孢假壳科(学名:Apiosporaceae)是真菌界子囊菌门 的一个科,于1998年首次被描述。本科内的所有物种均带有孢子,透过分解及消化植物,特别是棕榈科及禾本科的植物而取得营养。可进行
  • 大君主作战(1944年-1945年)霸王行动(英语:Operation Overlord)为诺曼底战役的代号,是盟军于第二次世界大战期间成功夺回德占西欧的军事行动。1944年6月6日诺曼底登陆开始(海王星行动,Operation
  • 伽倻山伽倻山国立公园(朝鲜语:가야산국립공원/伽倻山國立公園 Gayasan Gungnip Gongwon */?)是位于韩国庆尚南道陕川郡、居昌郡与庆尚北道星州郡的山岳型国立公园。1972年10月13日指
  • 四川等处承宣布政使司布政使四川等处承宣布政使司布政使又称四川布政使。是清代四川的长官。是清代四川的行政长官。顺治三年(1646年),由中书舍人吴宏融出任。为督、抚属官,掌管财赋和人事。为从二品官。
  • 尼科斯·利贝罗普洛斯尼科斯·利贝罗普洛斯(希腊语:Νίκος Λυμπερόπουλος)是希腊的一位足球运动员。在场上司职前锋。他曾效力于帕纳辛纳克斯和雅典AEK两家足球俱乐部。在2012年欧
  • 凯文·哈斯威凯文·哈斯威(英文:Kevin Hathway)是英格兰的敲击乐演奏家和教育家。凯文·哈斯威是是世界著名的赛尔学校的木管乐器、铜管乐器及敲击乐的系主任,并拥有自己的出版公司,专门出版