熵率

✍ dations ◷ 2025-12-05 00:44:57 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 破伤风梭菌破伤风梭菌(学名:Clostridium tetani)是一种梭菌属的杆状专性厌氧菌,外观类似网球拍和鸡腿,是破伤风的病原体。医学导航:病菌细菌(分类)gr+f/gr+a(t)/gr-p(c/gr-o药物(J1p、w、n、m、疫苗)
  • 铝热反应铝热法,又称铝热反应(英语:thermite reaction),是用铝粉还原金属氧化物获得金属单质的方法。反应剧烈放热,温度可达2500~3500℃,放出耀眼的光芒。生成物为氧化铝和该高熔点金属的单
  • 同步数字体系同步数字体系(Synchronous Digital Hierarchy,SDH),根据国际电信联盟远程通信标准化组( ITU-T)的建议定义,是不同速度的数字信号的传输提供相应等级的信息结构,包括复用方法和映射方
  • 量子纠缠在量子力学里,当几个粒子在彼此相互作用后,由于各个粒子所拥有的特性已综合成为整体性质,无法单独描述各个粒子的性质,只能描述整体系统的性质,则称这现象为量子缠结或量子纠缠(qu
  • 麻黄杏仁甘草石膏汤麻黄杏仁甘草石膏汤,出自《伤寒杂病论》。简称麻杏甘石汤或麻杏石甘汤。麻黄四两(去节) 杏仁五十个(去皮尖) 炙甘草二两 石膏半斤(碎、棉裹)上四味,以水七升,先煮麻黄减二升,去上沫
  • 低出生体重低出生体重儿(LBW)定义为出生体重小于2500克(5.5磅)的新生儿。低出生体重通常由早产(通常定义为出生时胎龄小于37周)或/和小于胎龄(即产前生长速率放缓)或者由这两种原因综合造成的
  • 天聪天聪(满语:ᠠᠪᡴᠠᡳ ᠰᡠᡵᡝ,穆麟德:abkai sure,元年:1627年—末年:1636年三月)是清太宗皇太极的第一个年号。后金(清朝的前身)使用这个年号共10年。有学者认为1636年建元崇德之前,
  • 黄金家族尼伦(蒙古语:.mw-parser-output .font-mong{font-family:"Menk Hawang Tig","Menk Qagan Tig","Menk Garqag Tig","Menk Har_a Tig","Menk Scnin Tig","Oyun Gurban Ulus Tig"
  • 铋的同位素铋(原子量:208.98040(1))的同位素,没有一个是稳定的,但是有一个天然放射性同位素209 Bi,其半衰期长达1.9x1019年。备注:画上#号的数据代表没有经过实验的证明,只是理论推测而已,而用
  • 保罗-罗兰·阿稣保罗-罗兰·阿稣(Paul-Laurent Assoun 1948年-),法国精神分析家。毕业于著名的圣-克洛德巴黎高等师范学院,1987年获得政治科学的博士。现为巴黎第七大学的教授,直到2007年,他都领导