熵率

✍ dations ◷ 2025-12-04 04:55:47 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 好氧菌好氧生物(英语:Aerobic organism,或 aerobe),又译为好气生物、耗氧生物、需氧生物,是能在有氧的环境中生存及生长的生物。好氧生物利用氧的化学反应来分解糖及脂肪,以获得能量。几
  • 迈克·约翰斯迈克尔·欧文·约翰斯(Michael Owen Johanns,1950年6月18日艾奥瓦州欧塞奇),美国政治家,美国共和党成员,曾任内布拉斯加州州长(1999年-2005年)、美国农业部长(2005年-2007年)。
  • 清洁清洁是指去除有害物质的过程,包括但不限于污垢、传染源和其他来自物体或环境的杂质。清洁可发生在许多环境中,并使用不同的方法。有多种职业是执行清洁工作。清洗可发生在规模
  • 刑部汉尚书下表列出清朝刑部尚书:顺治七年十二月乙巳(1651年1月17日)至十年二月己未(1653年3月21日),刑部设满尚书二员。
  • 凯瑟琳·西贝利厄斯凯瑟琳·西贝利厄斯 (Kathleen Sebelius,1948年5月15日-),是美国民主党政治人物。曾担任堪萨斯州第44任州长(2003年1月13日-2009年4月28日)、第21任美国卫生及公共服务部部长(2009年4
  • 意大利总理意大利总理,正式名称为“部长会议主席”(意大利语:Presidente del Consiglio dei Ministri),是意大利共和国的最高行政首长,也是意大利的政府首脑,负责领导各行政机关运作。其产生
  • 埃及现代史埃及现代史,始于1882年英军出兵埃及,协助埃及苏丹特费克镇压艾哈迈德·阿拉比的叛乱,之后继续留在埃及,虽然那时埃及名义上还属于奥斯曼帝国,但是实际上被英国控制。1914年埃及正
  • 兰诺定受体结构 / ECOD 兰诺定受体,又称雷恩诺碱受体、鱼尼丁受体(英语:Ryanodine receptors,缩写:RyRs)是存在于动物的肌肉与神经细胞中的钙离子通道。兰诺定受体有三种类型,分别存在不同的
  • 菊希·曹拉菊希·曹拉(印地语:जूही चावला ,1967年11月13日-)是活跃于二十世纪末期至今的印度演员,她曾经获得印度小姐桂冠。生于旁遮普邦,现已结婚,育有二名子女。
  • 何炳松何炳松(1890年10月18日-1946年7月25日),字柏丞,浙江金华人,中国历史学家。清朝光绪十六年(1890年),何炳松出生于金华文昌巷的一知识分子家庭。其祖先住在今金华市婺城区罗店镇后溪河