熵率

✍ dations ◷ 2025-06-08 09:25:29 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 戊基戊基(pentyl)是具有化学式 -C5H11的烷基官能团(取代基),有五个碳原子,是戊烷的取代形式。在在较老的文献中,会使用的非系统名称amyl来表示戊基,会用pentyl来表示有支链的五碳烷基,再
  • 家主家主是指家庭或家族的统领者。家庭的场合上多称为家长;如用在家族上,汉语传统又称为族长或宗长,日本古代则称为当主(日语:当主/とうしゅ Tōshu)、亦称为家长(日语:家長/かちょう Ka
  • 人类纪年全新世纪年或人类纪年(Holocene calendar或Human Era),与公元相对应,简称人元(HE),是一种由现时采用的公历(即格里历)改良而来的纪年方法,它引入0年,并在公历年数上多加 10000 。例如公
  • 南戈壁省南戈壁省(蒙古语:Өмнөговь аймаг,转写:Ömnögovi aimag),是蒙古国最南部的一个省,南接中国内蒙古自治区。省会达兰扎达嘎德。南戈壁省的总面积有165,400平方公里,多沙
  • 信息不对称信息不对称(英语:information asymmetry),指参与交易各方所拥有、可影响交易的资讯不同。一般而言,卖家比买家拥有更多关于交易物品的信息,但相反的情况也可能存在。前者例子可见
  • 开尔文探针力显微镜开尔文探针力显微镜(Kelvin probe force microscope, KPFM)是一种原子力显微镜,于1991年问世。开尔文探针力显微镜利用微悬臂感受和放大悬臂上尖细探针与受测样品原子之间的作
  • 相等在数学的领域中,若两个数学对象在各个方面都相同,则称他们是相等的。这就定义了一个二元谓词等于,写作“ = {\displaystyle =} 上唯一满足
  • 第二次印巴战争 巴基斯坦 援助方: 伊朗  中华人民共和国 720辆坦克628门火炮150架战机 756辆坦克552门火炮中立数据印方数据巴方数据中立数据巴方数据印方数据克什米尔边境对峙与冲突第
  • 布雷特·古斯瑞布雷特·古斯瑞(Brett Guthrie;1964年2月18日-)是美国的一位政治人物。自2009年开始,他是肯塔基州第二选举区选出的美国众议院议员。他的党籍是共和党。古斯瑞为美国陆军中尉。19
  • 克里斯蒂安·克兰普克里斯蒂安·克兰普(Christian Kramp,1760年7月8日—1826年5月13日),法国数学家。克兰普的父亲是文法学校的教师。卡曼研习医学,但其兴趣广泛,除了发表了大量的医学文章外,他亦发表