熵率

✍ dations ◷ 2025-12-09 06:07:50 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 分子量分子量,又称“相对分子质量”,指组成分子的所有原子的原子量的总和,分子量的符号为Mr。定义为物质分子或特定单元的平均质量与12C质量的1/12之比值。由于是相对值,所以为无量纲
  • 轮胎轮胎,通常由橡胶制成,是一种沿圆周覆盖金属或木头轮圈的元件。它是陆地上动力机械车辆最重要的一部分,用于搭载机械或汽车使之移动,并减少不规则路面造成的震荡。1845年,苏格兰人
  • 江,可以指:
  • 坎佩尔坐标:47°59′48″N 4°05′47″W / 47.996667°N 4.096389°W / 47.996667; -4.096389坎佩尔Kemper / Quimper坎佩尔(布列塔尼语:Kemper;法语:Quimper)是法国西部城市,布列塔尼大
  • 寇热Q型流感或羊流感(英语:Q fever或Goat flu),又称Q热或寇热,是指一种在荷兰爆发的新流感。这种流感由贝纳氏立克次体(学名:Coxiella burnetii)细菌引起 。这种流感能够通过羊群传染给
  • 柏油脚跟北卡罗来纳大学柏油脚跟队(英语:North Carolina Tar Heels)代表北卡罗来纳大学教堂山分校参加国家大学体育协会(NCAA)第一级别的多项体育赛事,属于大西洋沿岸联盟的成员。其名称柏
  • 大卫·邓巴·别克大卫·邓巴·别克(英语:David Dunbar Buick,1854年9月17日-1929年3月5日)是苏格兰裔美国底特律发明家,以创立别克汽车公司而知名,他于1899年至1906年领导该公司及其前身,将其打造为
  • 姹女姹女,是道教外丹派的术语,意思是指朱砂,化学术语为“硫化汞”。一般都与“婴儿”合用。“婴儿”指的其实是“铅”。当时的道教利用这些特殊的术语,把化学变化写成一些玄之又玄的
  • 德·维利尔斯·赫拉夫第二代从男爵德·维利尔斯·赫拉夫爵士(南非语:De Villiers Graaff;1913年12月9日-1999年10月4日;姓赫拉夫(英语:De Graeff),名德·维利尔斯),又称迪夫·赫拉夫,是一位南非政治家。他的
  • IamusIamus可以是指: