熵率

✍ dations ◷ 2025-04-03 12:48:58 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 阿拉斯加湾阿拉斯加湾是太平洋的一个海湾,位于阿拉斯加州南部,以西是阿拉斯加半岛和科迪亚克岛,以东是亚历山大群岛。
  • 三甲双酮三甲双酮(Trimethadione)是
  • 产量这是一个各国天然气产量列表,分数据基于世界概况。
  • 陈彬陈彬(1919年9月26日-1998年12月21日),四川通江人。第一任中华人民共和国国防科学技术工业委员会主任。1961年晋升少将军衔。1. 外交部  部长:黄华 → 吴学谦  2. 国防部  部
  • 海军军医学校海军军医学校(日语:海軍軍医学校/かいぐんぐんいがっこう Kaigun Gun'i Gakkō ?)是旧日本海军内培养海军医护官兵的一所学校。军医学校的职能主要包括:教育和培养海军军医科、
  • 预知适应性反应预知适应性反应(Predictive adaptive response)是指胎儿受到外界环境刺激后,对宫外环境进行预测,从而改变自身发育轨迹以适应环境变化的过程。预知适应性反应这一概念源自进化生
  • 鲁道夫·冯·耶林鲁道夫·冯·耶林 (Rudolf von Jhering,1818年8月22日-1892年9月17日),生于奥利希市,卒于哥廷根,德国19世纪著名的法学家,缔约过失责任理论的创始人。 鲁道夫·冯·耶林生于一个犹
  • 阮文禄阮文禄(越南语:Nguyễn Văn Lộc;1922年8月24日-1992年5月31日)是越南政治人物,曾任越南共和国总理。阮文禄是永隆省周城郡隆周社人,1922年出生。在法国巴黎大学毕业,律师出身。196
  • 威廉斯维尔 (密苏里州)威廉斯维尔(英语:Williamsville)是一个美国城市,位于密苏里州韦恩县。根据2010年的人口普查,当地人口为342人。威廉斯维尔位于36°58′22″N 90°32′53″W / 36.97278°N 90.548
  • 薛三才薛三才(1555年-1619年),字仲儒,又字青雷,浙江定海(今浙江宁波镇海区)县城人,明朝末年大臣。祖籍鄞县,浮石薛氏宋薛朋龟之后。万历十四年(1586年),薛三才在丙戌科殿试中名列三甲,赐同进士出