熵率

✍ dations ◷ 2025-12-01 14:26:58 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 海洋地质学海洋地质学(英语:Marine geology 或 geological oceanography)是以地球物理学、地球化学、沉积学和古生物学方法对海床和海岸进行研究的学科。海洋地质学和物理海洋学关系相当
  • 拔摩岛的约翰拔摩岛的约翰(英语:John of Patmos),新约圣经中《启示录》的作者,根据《启示录》记载,他居住在希腊的拔摩岛上。传统上,主要的基督教会都相信他就是十二使徒中的约翰,也就是写作《约
  • 克里斯蒂安·莱特纳克里斯蒂安·唐纳德·莱特纳(英语:Christian Donald Laettner,1969年8月17日-),美国NBA联盟职业篮球运动员,场上主要位置为大前锋或中锋。毕业于杜克大学,在大学期间率领杜克大学蓝
  • 亚历山大·利夫亚历山大·利夫 (英语:Alexander Leaf, 1920年4月10日-2012年12月24日)是一位美国医学家和研究科学家,在饮食锻炼与心脏病预防的联系上有重大贡献。他还在研究漫长炎热的夏季和传
  • 阿卜杜拉赫曼·阿里夫阿卜杜拉赫曼·阿里夫(阿拉伯语:عبد الرحمن عارف‎,拉丁化:Abdul Rahman Arif ,1916年-2007年8月24日),伊拉克政治家,伊拉克总统(1966年4月16日-1968年7月16日)。他是一名
  • 比尔·戈柏比尔·戈柏(英语:Bill Goldberg,1966年12月27日-),本名威廉·史考特·戈柏(英语:William Scott Goldberg),是美国的职业摔角选手、演员及前橄榄球选手,目前受聘于世界摔角娱乐,在SmackDo
  • 鸿蒙 (操作系统)鸿蒙(英语:Harmony OS,开发代号Ark)是华为自2012年开发的一款可能兼容Android app的跨平台操作系统。截至2019年6月14日,华为高管证实了新系统的存在以及华为在全球申请“Hongmen
  • 蒋昊 (魔术师)蒋昊(1980年12月5日-),本名严晟华,台湾魔术师,专研大型幻术,自二十岁起开始职业魔术表演生涯。
  • 满城镇满城镇,是中华人民共和国河北省保定市满城区下辖的一个乡镇级行政单位。满城镇下辖以下地区:东城社区、西城社区、燕赵社区、永乐社区、育才社区、建社社区、城内村、北关村、
  • 穰是大数的名称,通常指10^28(万进记法),亦可以指10^10(下数记法),10^48(中数记法),或者10^256(上数记法)。但是因为数值都太大,日常生活基本上用不到,就算需要记,通常直接用科学记数法去记