熵率

✍ dations ◷ 2025-12-08 01:17:02 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 瓦莱州瓦莱州(法语:Valais,德语:Wallis,意大利语:Vallese)是瑞士西南部与意大利接壤的一个州,州府锡永,居民以使用法语为主,人口278,200(2003年)。阿尔高州  外阿彭策尔州  内阿彭策尔州  
  • 亲子连名制亲子连名制是许多民族文化传统中将父母名与子女名相连的取名方式。罗常培最早在藏缅族中发现了父子连名制的现象。后来又有学者发现母子连名、舅甥连名等类似现象,且并不局限
  • 八大电视八大电视股份有限公司(英语:Gala Television Corporation),简称八大、GTV,成立于1997年6月13日,2014年至今由台塑永在投资公司持有,主要是经营“八大第一台”、“八大综合台”、“
  • 巽他云豹(N. diardi)Felis diardiiFelis macrocelisFelis marmotaNeofelis nebulosa diardi巽他云豹(学名:Neofelis diardi)是一种分布在婆罗洲和苏门答腊地区的猫科动物,早前一度被视云豹(Neofelis
  • 长江文明长江文明是长江流域各区域文明的总称,是汉文化的一部分,与黄河文明并列为汉文化的两大源泉。长江文明区域之广、文化遗址数量之多、密度之大,都堪称世界之最,包括有江苏和上海大
  • 间离效果间离效果,又称陌生化效果、疏离,是德国戏剧理论家、剧作家布莱希特所提出的戏剧表演理论,是指将观众疏远于戏剧或电影,这被布莱希特称为叙事剧(史诗剧场)。布莱希特认为戏剧应为政
  • 萨尔斯堡博物馆萨尔斯堡博物馆(德语:Salzburg Museum)是奥地利城市萨尔斯堡的博物馆。博物馆创建于1834年,展示主题是萨尔茨堡及其附近地区的艺术和文化历史。2005年博物馆搬入现在的地址。200
  • 鲁布桑·额尔登楚龙鲁布桑·额尔登楚龙(蒙古语:Лувсангийн Эрдэнэчулуун,1948年10月10日-)蒙古族,蒙古乌兰巴托市人,蒙古国政治人物。额尔登楚龙是蒙古人民革命党成员。额尔登
  • 丹麦国铁EA型电力机车EA型电力机车是丹麦国家铁路所使用的第一种电力机车车型,由联邦德国(西德)西门子交通集团和瑞士勃朗-包维利股份公司等企业联合设计制造,适用于供电制式为25千伏50赫兹工频单相
  • 天则经济研究所天则经济研究所是位于北京的一家智库。由经济学家茅于轼、张曙光、盛洪、吴滨、卢跃刚、樊纲、唐寿宁等人与北京大象文化有限公司共同发起,于1993年7月创立。天则经济研究所