熵率

✍ dations ◷ 2025-12-07 06:45:20 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 小儿科小儿科(或称儿科)是现代医学的一个分支,专门医疗患病的婴儿、儿童及青少年。最大的年龄通常至青春期。一个受到这方面知识专门训练的医生被称作儿科医生。
  • 色萨利色萨利大区(希腊语:Θεσσαλία,转写:Thessalia)位于希腊中部偏北,大区总面积14037平方公里,下辖四个州:卡尔季察州、拉里萨州、马格尼西亚州、特里卡拉州,大区首府设在拉里萨。
  • 拉尔夫·达伦多夫拉尔夫·达伦多夫,达伦多夫男爵,KBE(英语:Ralf Gustav Dahrendorf, Baron Dahrendorf,1929年5月1日-2009年6月17日),德国裔英国社会学家、哲学家、政治学家、自由派政治家,冲突理论的
  • 金星符号可以代表:
  • 超费米子超费米子就是超对称后的费米子,已经从费米子转变为了玻色子。目前只是一种假想粒子,粒子撞击器对它的探索仍在继续。
  • 锺健龙锺健龙属(属名:Zhongjianosaurus)是属于驰龙科的小盗龙类恐龙,化石发现于中国辽宁西部的凌源市四合当地区,生存于白垩纪早期,是已知最小的小盗龙类恐龙,也是最小型的恐龙之一。锺健
  • 分离性遗忘症分离性遗忘症或游离性遗忘症(英语:Dissociative amnesia),又称为心因性失忆症(英语:Psychogenic amnesia),是一种心理疾病。患者会遗忘个人记忆中的重要资料,通常不是由生理因素(如脑
  • 康布雷战役 (1917年) 大英帝国 德意志帝国1915年1916年1917年1918年康布雷战役(英语:Battle of Cambrai,有些文献为区分1918年同样发生于此地的战役而称为“第一次康布雷战役”)是第一次世界大战
  • 乾亨 (南汉)乾亨(917年七月-925年十一月)是南汉高祖刘䶮的年号,共计9年。 开平 → 乾化 → 凤历 → 贞明 → 龙德天祐(唐朝) → 同光 → 天成 → 长兴 → 应顺 → 清泰天福 → 开运天福 → 乾
  • 法南巴纳河坐标:13°30′S 50°01′E / 13.500°S 50.017°E / -13.500; 50.017法南巴纳河(马达加斯加语:Fanambana),是马达加斯加的河流,位于该国北部,由第亚那区负责管辖,河道全长215公里,流