熵率

✍ dations ◷ 2025-12-02 16:31:51 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 囊状噬菌体科囊状噬菌体属囊状噬菌体科Cystoviridae
  • 勒内·克莱尔雷内·克莱尔(法语:René Clair,1898年11月11日-1981年3月15日),法国制片人、作家,20世纪20年代因拍摄喜剧默片而出名,后拍摄了一些具有创新精神的有声电影,曾前往美国、英国工作。第
  • 大理寺大理寺是中国古代掌管刑狱的中央审理机关。越南古代仿中国,亦设置有大理寺这一机关。秦汉为廷尉,北齐改为大理寺,历代因之。秦汉时期以廷尉主刑狱,审理各地刑狱重案。西汉汉景帝
  • 湖南省行政区划湖南省简称“湘”,因地处洞庭湖以南得名“湖南”。2005年,全境分为14个地级行政区即13个地级市和1自治州(湘西土家族苗族自治州),122个县级行政区即64县、16县级市、7自治县和35
  • 王铎王铎自画像王铎(1592年-1652年4月28日),字觉斯,一字觉之,号嵩樵、十樵、石樵、痴庵、东皋长、痴庵道人、烟潭渔叟、雪塘渔隐、痴仙道人、兰台外史、雪山道人、二室山人、白雪道人
  • 眼睛色彩眼睛色彩是一种多基因遗传特征,是指眼睛虹膜的色彩。由虹膜中黑色素数量、黑色素种类(真黑色素与假黑色素),黑色素的分布所决定。。人类与其他动物的眼睛色彩,拥有许多表型变异。
  • 各国铀储备量列表铀储备量是指可供开采的铀资源储备,不计同位素。即使不考虑增殖反应堆所产生的副产品(例如钚),铀储备量中所蕴含的核裂变能量远大于地球上所有化石燃料(甚至包括甲烷气水包合物)的
  • 埃克多尔·比亚格兰·西佩达埃克多尔·比亚格兰·西佩达(1962年12月25日- )生于厄瓜多尔共和国瓜亚基尔市。十四岁时和母亲移居到美国华盛顿特区居住,并在那里完成了中学学业. 随后在首都基多居住,曾在马纳
  • 奥郎加巴德奥郎加巴德,位于马哈拉施特拉邦,得名于莫卧尔帝国的奥朗则布,他将帝国都城设于此处,以征服德干高原诸苏丹国及马拉塔联盟。城市始建于17世纪,曾为重要商业中心,海德拉巴建成后逐渐
  • 华视晚间新闻《华视晚间新闻》(CTS EVENING NEWS)是中华电视公司的招牌新闻节目,亦是华视历史最久的电视节目。现任平日主播为连昭慈,周末由各主播轮流播报。《华视晚间新闻》自华视开播首日