熵率

✍ dations ◷ 2025-11-22 08:54:59 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 基督科学箴言报《基督科学箴言报》(英语:The Christian Science Monitor)是美国的一份国际性日报,每周一至周五出版,由基督科学教会创始人玛丽·贝克·埃迪于1908年创立,总部位于波士顿。创始人
  • 璧是中国古代用于祭祀的玉质环状物,凡半径是空半径的三倍的环状玉器称为璧。《尔雅》云:“肉倍好谓之璧,好倍肉谓之瑗,肉好若一谓之环。”,所谓肉是指边,好是指孔。实际上这一比例
  • 伊利亚特《伊利亚特》(希腊语:Ιλιάς,转写:Iliás)又译《伊利昂纪》(取自书名“伊利昂城下的故事”之意),是古希腊诗人荷马的强弱弱格六音步史诗。故事背景设在特洛伊战争,是希腊城邦之间
  • 哈萨克斯坦共和国国家银行坐标:43°14′07″N 76°55′05″E / 43.235152°N 76.917921°E / 43.235152; 76.917921哈萨克斯坦共和国国家银行(英语:National Bank of the Republic of Kazakhstan,简称NBK
  • 淡水龙虾淡水龙虾,俗称小龙虾,在中国各地又名蝲蛄、螯虾,是多种淡水虾类统称,因形似龙虾(Palinuridae)而得名。包含拟螯虾科(Parastacidae)、正螯虾科(或称蟹虾科)(Astacidae)和螯虾科(或称蝲蛄科
  • 氢气球气球(法语、德语:Ballon、英语:Balloon)是一种用来填充气体的囊状物。具有实用性,用被作载具的气球被称作航空气球,而小型的气球则常被用作装饰品和玩具。本文讨论的内容主要是作
  • 农磨兰普府农磨兰普府(泰语:จังหวัดหนองบัวลำภู,皇家转写:Changwat Nong Bua Lamphu,泰语发音:)一译廊磨喃蒲府,位于泰国东北部的一个府。在2000年时人口约482,207人,自2008
  • 偶然文学作品:音乐:电视剧:
  • 重光帝重光帝(越南语:Trùng Quang Đế/.mw-parser-output .han-nom{font-family:"Nom Na Tong","Han-Nom Gothic","Han-Nom Ming","HAN NOM A","HAN NOM B","Ming-Lt-HKSCS-UNI-H",
  • 自动倾斜器自动倾斜器(军方称为旋转盘)是将经直升机飞行操纵系统传递过来的驾驶员或自动驾驶仪的指令转换为旋翼桨叶受控运动的一种装置。因为旋翼是旋转的,自动倾斜器被用于将驾驶员的