熵率

✍ dations ◷ 2025-11-06 08:11:39 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 白脱牛奶酪浆(英语:Buttermilk),又称酪乳、白脱牛奶,是牛奶制成牛油之后剩余的液体,有酸味。现代出现的制作工艺就在牛奶加入乳酸菌。过去常直接饮用,目前多用作糕点的配料。酪乳的基础是奶
  • 上阿尔卑斯省上阿尔卑斯省(法语:Hautes-Alpes)是法国普罗旺斯-阿尔卑斯-蓝色海岸大区所辖的省份。该省编号为05,省会为加普。5个海外省及大区
  • abbr class=abbr title=S51: 仅可于通风处使用S51/abbr安全建议标准词(英语:Safety phrases,简写:S-phrases)是于《欧盟指导标准67/548/EEC 附录Ⅳ: 有关危险物品与其储备的安全建议》里定义。该列表被集中并再出版于指导标准2001/59/
  • 塔什干塔什干(乌兹别克语:Toshkent,Тошкент;俄语:Ташкент)是乌兹别克斯坦首都,是全国的政治、经济、文化和科研中心,也是塔什干州的首府。塔什干市面积334.8km²,2013年共有
  • 1961年-1970年这是一个1961年-1970年的完整载人航天飞行列表,其中包括东方计划及上升计划,开始苏联联盟计划、美国水星计划和双子星座计划和首次登月的阿波罗计划。
  • 芬兰国家图书馆芬兰国家图书馆(芬兰语:Kansalliskirjasto,瑞典语:Nationalbiblioteket)建于1640年,1827年由原址图尔库迁至赫尔辛基。该馆是芬兰重要的研究图书馆,亦是芬兰历史最悠久和规模最大的
  • 李提克·罗森李提克·罗森 (英语:Hrithik Roshan,1974年1月10日-)是当代印度宝莱坞演员,‘票房大柱’,他八十年代作为儿童演员出道,九十年代至今曾经多次获得印度电影界的大奖。 李提克·罗森197
  • 海水白点虫海水白点虫(学名:)为白点虫属下的一个种。
  • 詹姆斯·巴里詹姆斯·米兰达·斯图尔特·巴里(James Miranda Steuart Barry,约1789年-1865年7月25日)是一名英国陆军的的军事外科医生,出生于爱尔兰科克。巴里从爱丁堡大学医学院获得医学学位
  • 另一个天堂《另一个天堂》(匈牙利语:Egymásra nézve)是一部1982年的匈牙利电影,毛克·卡罗伊执导,讲述了两个女人之间的韵事。 它是根据高尔戈齐·伊丽莎白的半自传体小说《另外的爱》改