熵率

✍ dations ◷ 2025-12-01 22:31:53 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 应用物理学应用物理学(applied physics)指的是针对实际用途而进行的物理研究。物理学通常视做一种基础科学,而非应用科学。物理学也被认为是基础科学中的基础科学,因为其它自然科学的分支,
  • 鰕虎鱼详见内文虾虎鱼即指鱼类分类学虾虎鱼目中的虾虎鱼科(Gobiidae),又作鰕虎科。它是鱼类中最大的科之一,已知品种超过2000种。绝大多数体型细小,一般短于10厘米。世界上最短小的脊椎
  • 美洲蜚蠊美洲家蠊(学名:Periplaneta americana),又称美洲大蠊,俗称美洲蟑螂,为族群庞大的有翅蟑螂。在美国和热带地区,美洲蟑螂是普遍常见的生物,甚至在全球各地也能发现它的踪影,人类把这情
  • span class=nowrapPu(NOsub3/sub)sub4/sub/span硝酸钚(IV)是一种具有强放射性的无机化合物,不稳定,化学式为Pu(NO3)4。它可以形成硝酸根及水配合物。H2Pu · PuC · PuB · PuCl3 · PuF3 · PuF4 · PuF6 · PuO2
  • 兴义民族师范学院兴义民族师范学院为中国贵州省兴义市的一所公立高校。学院设有12个系,分别为政史系、中文系、英语系、数学系、物理系、化生系、计科系、体育系、艺术系、教育管理科学系、公
  • 环游世界八十天 (1956年电影)环游世界八十天(英语:Around the World in 80 Days、Around the World in Eighty Days)是一部1956年的冒险片,由大卫·尼文与Cantinflas主演。 本片荣获的奥斯卡奖包括:奥斯卡最
  • 台湾总督府警察台湾总督府警察是台湾日治时期统治台湾的台湾总督府所设置的警察。而由于日治时期台湾的行政区划频繁变更,所以连带的警察制度也经常频繁地更动。日大正十四年(1925年)时:日大正
  • 木客鸟木客鸟是传说的妖鸟名。
  • 菲利普·扬科维奇菲利普·扬科维奇(塞尔维亚语:Filip Janković;1995年1月17日-)是一位塞尔维亚足球运动员。在场上的位置是边锋。他现在效力于意大利足球乙级联赛球队卡塔尼亚足球俱乐部。他也代
  • 丹麦国铁EG型电力机车EG型电力机车是德国西门子交通集团为丹麦国家铁路公司设计制造的一种双电流制大功率电力机车,也是“欧洲短跑手”(EuroSprinter)系列电力机车车型之一,适用于供电制式为15千伏16