熵率

✍ dations ◷ 2025-12-02 04:22:26 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 李德尔氏综合征李德尔氏综合征(Liddle's syndrome、假性醛固酮增多症)是常染色体显性遗传(Dominance (genetics))疾病、特征在于早期频繁严重的高血压,以及与低血浆肾素活性、代谢性碱中毒(
  • 快中子中子温度,亦称中子能量,指的是自由中子的动能,单位通常是电子伏特。由于中子经过不同温度的减速剂会有不同的速度分布,一般可以使用温度来衡量中子的动能。中子的能量分布基本上
  • 法国大革命博物馆法国大革命博物馆(法语:Musée de la Révolution française)是世界上唯一一个关于法国大革命的专门博物馆,位于法国奥弗涅-罗讷-阿尔卑斯大区伊泽尔省维济伊,在格勒诺布尔以南1
  • 乌云 (网站)乌云(WooYun)是一个位于中国大陆的于企业与安全研究人员(白帽子)之间的安全漏洞报告平台,并提供最新的研究资讯。2016年7月20日凌晨,乌云官网突然关闭,仅显示一张“升级通告”的图
  • 智利水獭智利水獭(Lontra provocax)是一种生活在智利及阿根廷的水獭。它们栖息在海洋及淡水环境。智利水獭长70厘米,尾巴长40厘米。它们背部呈深褐色,腹部呈浅肉桂色。它们分布在智利的
  • 甬剧甬剧,中国戏曲剧种之一,流行于宁波地区。舞台语言采用宁波方言。甬剧曲调包含基本调、快二簧、慢二簧等。甬剧剧目有《田螺姑娘》《两兄弟》《王鲲》《亮眼哥》《典妻》等。目
  • 猪大肠猪大肠也叫肥肠,是一种常见的猪内脏副食品。
  • 早坂文雄早坂文雄(1914年8月19日-1955年10月15日),日本宫城县出身的作曲家。1938年以《古代的舞曲》获得“费利克斯·魏因加特纳奖”。1939年到东京之后、开始了电影配乐的工作。最著名
  • 雅恩·帕托什卡雅恩·帕托什卡(Jan Patočka,1907年6月1日-1977年3月13日),捷克哲学家。1925年,帕托什卡在布拉格查理大学文学学院攻读斯拉夫语研究、拉丁语系研究,以及哲学,及后在1928年在巴黎就
  • 热带低压WP232017 在10月8日的WP232017热带低压WP232017(英语:Tropical Depression Twenty-three)是一个微弱