熵率

✍ dations ◷ 2025-04-26 12:55:07 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 孢子孢子(英语:Spore,汉语拼音:bāo-zǐ,注音符号:ㄅㄠ ㄗˇ)是一种脱离亲本后能发育成新个体的单细胞或少数细胞的繁殖体。孢子一般有休眠作用,能在恶劣的环境下保持自有的传播能力,并再
  • 单氯丙二醇3-氯-1,2-丙二醇(3-MCPD),分子式C3H7ClO2。无色、有愉快性气味的吸湿性液体,放置后逐渐转变为微带绿色的黄色液体。溶于水、乙醇、乙醚、丙酮,微溶于甲苯,不溶于四氯化碳、苯和石
  • 漂白红砂土在联合国粮食及农业组织土壤资源参考基准中漂白红砂土的定义是,土壤连同薄而深色的外表层在缺乏光亮层(一个白土层)呈舌形突出成为黏土淀积层。粘土淀积层有一个不规则或损坏造
  • 氢原子氢原子是氢元素的原子。电中性的原子含有一个正价的质子与一个负价的电子,被库仑定律束缚于原子核内。在大自然中,氢原子是丰度最高的同位素,称为氢,氢-1 ,或氕。氢原子不含任何
  • 弗朗西斯·高尔顿弗朗西斯·高尔顿爵士,FRS(英语:Sir Francis Galton,1822年2月16日-1911年1月17日),英格兰维多利亚时代的博学家、人类学家、优生学家、热带探险家、地理学家、发明家、气象学家、
  • 失写症书写障碍(英语:Dysgraphia、Agraphia),又称失写症,是一种以手写字所产生的学习不利现象,跟阅读能力或是智力障碍无关。书写障碍者通常还是可以写字,但是缺乏某些精细动作技巧,例如胜
  • 中华民国中央灾害应变中心中央灾害应变中心(英语译名:Central Emergency Operation Center,简写CEOC)是中华民国遭受各类灾害时由中央政府设置的任务型应变单位(英语:Emergency operations center),设置于新
  • 许平和许平和(1926年-1994年,印尼语:Kho Ping Hoo)生于爪哇梭罗市,为战后初期印尼华裔通俗小说作家,代表作有《血染婆罗浮屠》、《南海风暴》、《双雕的故事》、《快刀柔情》、《无敌神侠
  • 第一次第一次可以指:
  • ADDADD可以指以下事物: