熵率

✍ dations ◷ 2025-11-26 23:15:11 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • PCRPCR可能指:政党:其他:
  • 清朝的外交清朝初期,清朝政府与俄罗斯沙皇国政府签订了《尼布楚条约》,该条约中国称为平等条约,俄罗斯(含苏联时期)称为不平等条约(俄罗斯人认为《瑷珲条约》中收回了被中国人强占的失地)。有
  • 主办城市第一届现代奥林匹克运动会于1896年在雅典举办,至今有22个城市成功举办30届夏季奥林匹克运动会、17个城市成功主办21届冬季奥林匹克运动会;当中,1916年、1940年及1944年的三届夏
  • 野尻霉素野尻霉素(英语:Nojirimycin)是一些链霉菌产生的5-氨基-5-脱氧-D-葡萄糖,为一种抗生素。形成吡喃环后,和葡萄吡喃糖相似,可以作为肠α-葡糖苷酶、胰α-淀粉酶,以及N-糖链加工中的α
  • 路易十二路易十二(人民之父)Louis XII le Père du Peuple(1462年6月27日-1515年1月1日)法国瓦卢瓦王朝国王(1498年—1515年在位)。他属于该王朝的奥尔良支系。即位前的封号是奥尔良公爵(称
  • 自雇自雇者,或称自雇人士,其工作的雇主就是自己。此类劳务提供者承担商业风险,不受劳动法律所保障,不能享受员工福利、有薪公众假期、工伤赔偿、退休金等,有些则加入行会。自雇者要申
  • 南斯拉夫广播电视南斯拉夫广播电视(Jugoslavenska radiotelevizija, JRT)是南斯拉夫社会主义联邦共和国的国家公共广播电视服务系统。南斯拉夫广播电视拥有八个广播及电视节目制作中心,分别位于
  • 普瑞德威利综合征普瑞德威利综合征(俗称小胖威利症,英文名Prader-Willi syndrome,PWS)是一种肇因于特定基因功能丧失的遗传性疾病 。新生儿患者会出现包括肌肉无力(英语:Hypotonia)、进食不良及发育
  • 澳洲淡水鳄澳洲淡水鳄(学名:)是一种中小型鳄鱼,原产于澳洲。它们的体型比同是住在澳洲、性情较凶猛的湾鳄细小得多。虽然在受威胁之下会袭击人类,但它们并没有强大的咬合力以咬死人类。澳洲
  • 康纳·威克姆康纳·威克姆(英语:Connor Wickham,1993年3月31日-)是一名英格兰足球运动员,司职前锋,现时被英超中的水晶宫外借至英冠球队谢周三。他出身伊普斯维奇,以16岁另11日成为球队历来最年