熵率

✍ dations ◷ 2025-11-19 08:56:43 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 血管性痴呆血管性痴呆(Vascular dementia),亦称多发梗塞性痴呆(multi-infarct dementia),是一系列由于血管性疾病引起的大脑梗塞,其中包括高血压性脑血管病、脑动脉硬化性痴呆。其梗塞过程往
  • 表格表格,是数据安排成行与列,或是更为复杂的结构。表格常用于通信、研究与数据分析。表格会出现在印刷品、手写笔记、电脑软件、建筑装饰、交通号志及其他场合。表格就是由若干的
  • 次生代谢产物次级代谢产物(英语:Secondary metabolites,又称为次生代谢物、二代谢物)是不直接涉及到生命正常生长、发育或繁殖的有机化合物。不像初级代谢产物,缺少次级代谢产物不会导致立即
  • 巨猎豹Sivapanthera pardinensis巨猎豹()是史前已灭绝的猫科动物,是现今猎豹的近亲。巨猎豹的生活模式及身体特征可能很像猎豹,唯一不同的是巨猎豹有狮子的体型。它们于冰河时期分布于
  • 戴手铐的旅客《戴手铐的旅客》是1979年以反映文革为题材的电影。于洋导演,由于洋,马树超,赵子岳,蔡明等人主演。主题曲驼铃脍炙人口,传唱至今。
  • 西经170度线所有坐标的地图 - OSM 所有坐标的地图 - Google 所有上至200个坐标的地图 - Bing西经170度线,是本初子午线向西170度的经线,是为西经170°。该经线穿过的大部分地区为海洋。此
  • 依克唐阿依克唐阿(满语:ᡳᡴᡨᠠᠩᡤᠠ,转写:;1834年-1899年),字尧山,扎拉里氏(汉译姓张),满洲镶黄旗人,晚清军事人物,勇号法什尚阿巴图鲁,谥诚勇。生于吉林伊通马家屯。早年从军,随副都统开隆阿入关
  • 窦线娘窦线娘,清代小说《隋唐演义》中人物,夏王窦建德与曹皇后之女。窦建德与燕王罗艺交兵,窦线娘与罗艺之子罗成一见钟情。二人促成窦建德与罗艺联合对付杀死隋炀帝的宇文化及。窦线
  • 吞武里县吞武里县(泰语:ธนบุรี,音素:Ṭhnburī,皇家转写:Thon Buri,IPA:)是泰国曼谷的50个区之一,位于昭披耶河的西岸。其相邻的区有:曼谷艾县、拍那空县、空讪县、曼柯廉县、拉布拉那县
  • 拉普拉拉普拉可以指以下地区: