熵率

✍ dations ◷ 2025-12-04 13:49:52 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 古典音乐古典音乐是指根植于西方音乐传统(包括宗教音乐和世俗音乐)的艺术音乐,包含了从大约11世纪直至当代的广大时间范围。这一艺术传统的中坚时期通常被划定为从1550年到1900年的这段
  • 中烟1999年规定:印章直径4.5厘米,中央刊国徽,由国务院制发。中国烟草标志国家烟草专卖局,简称国家烟草局,成立于1984年,与中国烟草总公司合署办公,对中国内地烟草业实行统一领导、垂直
  • 地对空导弹红旗-9(HQ-9)是中国的一种远程地对空导弹,海军版称为“海红旗-9”,外销版为“FD-2000”(“FD”为“防盾”二字的拼音首字母),反辐射导弹版本为“FT-2000”(飞腾)。这款导弹的改进型号
  • 路易斯·沙利文路易斯·亨利·沙利文(Louis Henri Sullivan,1856年9月3日-1924年4月14日),美国建筑师,被誉为“摩天大楼之父”和“现代主义之父”。 他是芝加哥建筑学派的代表人物之一,许多人认为
  • 台风鹿莎 87.9亿美元(2020年)台风鹿莎(Typhoon Rusa)是2002年太平洋台风季期间联合台风警报中心发现
  • 陈东 (宋朝)陈东(1086年-1127年),字少阳,镇江丹阳人,宋朝政治人物。生于北宋元祐元年(1086年),十七岁(1103年)入学,徽宗政和三年(1113年)入太学。宣和七年(1125年)十月二十七日上书请诛蔡京、王黼、童贯
  • 赛尔瓦·罗斯福赛尔瓦·卡门·肖克尔·罗斯福(英语:Selwa Carmen Showker Roosevelt;1929年1月13日-),昵称勒克(英语:Lucky),是美国礼宾司司长(是任期最长的一位),1950年嫁给了美国前总统西奥多·罗斯福
  • 森林公路森林公路(英语:Forrest Highway)是一条位于澳大利亚西澳大利亚州的皮尔区和西南区的高速公路,全长95.67千米(59.45英里)。将珀斯的奎纳纳高速公路从曼都拉向东延伸到班伯里。老海
  • 开宝重定本草《开宝本草》全称《开宝重定本草》,凡20卷,目录1卷,宋开宝六年尚药奉御刘翰、道士马志,翰林医官翟煦、张素、王从蕴、吴复圭、王光祐、陈昭遇、安自良等九人编著。宋开宝六年(973
  • 吕加努塞坐标:59°22′50″N 27°01′49″E / 59.38056°N 27.03028°E / 59.38056; 27.03028吕加努塞(爱沙尼亚语:Lüganuse),是爱沙尼亚的城镇,位于该国东北部,由东维鲁县负责管辖,是吕加