熵率

✍ dations ◷ 2025-12-09 23:54:49 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 北美中部时区北美中部时区(North American Central Time Zone)标准时间为UTC-6,夏令时间为UTC-5。完全属于本时区的加拿大省份:部分属于本时区的加拿大省份:完全属于中部时区的州:部分属于中部
  • 花青素花青素(英语:anthocyanidin)或称花色素,化学式为C15H11O6,是一种水溶性的植物色素,存在于液泡内的细胞液中。其与糖类物质以糖苷键结合之后即为花色苷,与花的颜色、叶变红等有关,是
  • 体积浓度体积分数 ϕ i {\displaystyle \phi _{i}} 为一化学名词,其定义为一成
  • BitTorrentBitTorrent是由布莱姆·科亨与BitTorrent公司开发,是全球第一套基于BitTorrent协议的点对点文件上传/下载软件(也就是BitTorrent客户端),由于源自官方而被昵称为“主流”(Mainlin
  • 933年重要事件及趋势重要人物
  • 将军将军可以指:
  • 英格兰期盼人人都恪尽其责“英格兰期盼人人都恪尽其责”(英语:England expects that every man will do his duty)是英国海军中将纳尔逊在特拉法加战役(1805年)开始前通过其旗舰胜利号战舰发出的信号。特
  • 台湾积体电路制造台湾积体电路制造(英语:Taiwan Semiconductor Manufacturing),通称台积电、台积或TSMC,与旗下公司合称时则称做台积电集团,是全球最大的晶圆代工半导体制造厂(英语:Semiconductor fa
  • 陈昱陈昱,玉山人,明朝政治人物。举人出身。成化二十二年,接替袁道,担任南直隶常州府宜兴县知县,后。由谢文献接任知县。
  • 嘉义市立玉山国民中学嘉义市立玉山国民中学(英语校名:Chiayi Municipal Yu-shan Public Junior High School,缩写YSJH),简称玉山国中,位于嘉义市西区友忠路1号。