熵率

✍ dations ◷ 2025-05-17 23:39:32 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 国旗美国国旗旗面由13道红白相间的宽条构成,左上角还有一个包含了50颗白色小五角星的蓝色长方形。50颗小星代表了美国的50个州,而13条间纹则象征着美国最早建国时的13个殖民地。红
  • 太保市坐标:23°26′02″N 120°15′02″E / 23.433899°N 120.250671°E / 23.433899; 120.250671 (Puzih)太保市(台湾话:.mw-parser-output .sans-serif{font-family:-apple-system
  • 录像带录像带或录影带(英语:videotape),是磁带的一种,主要用来录制、播放活动影像及音乐等。一般以录放影机来录制和播放。它是一种顺序式的线性(linear)影像储存方式。录像带的保养,最怕
  • 汉族音乐汉族音乐是中国民族音乐的重要组成部分,由于汉族人分布地域广大,各地环境与人文条件有很大的不同,因此音乐特点也有很大的区别,但共同的历史和发展也造就了许多共同点,汉族音乐的
  • 云麓宫云麓宫是一个道观。位于湖南长沙市湘江西岸的岳麓山风景名胜区,为该风景名胜区重要观光点。该建筑地处岳麓山第二峰云麓峰,又名灵麓峰,为道教七十二福地之二十三洞真虚福地。现
  • 晁补之晁补之(1053年-1110年),字无咎,号归来子,济州巨野(今属山东)人。中国北宋的词人、文学家。工书画,能诗词,善属文。与张耒、黄庭坚、秦观并称苏门四学士,与张耒并称“晁张”。有《鸡肋集
  • 植硅体植硅体(英语:phytolith),是存在于多种高等植物细胞或细胞间隙中的显微结构小体,其主要成分为二氧化硅,中文曾译植硅石、植物硅酸体等,现在学界统一称之为植硅体。植硅体的大小和形
  • 刘永嘉刘永嘉(?年-?年),字寅阶,江西省建昌府南丰县人,宣统三年进士。
  • 叶皮斯季妮娅·费奥多罗夫娜·斯捷潘诺娃叶皮斯季妮娅·费奥多罗夫娜·斯捷潘诺娃(俄语:Епистини́я Фёдоровна Степа́нова;1874年11月18日-1969年12月7日)是一名俄罗斯妇女,她的9个儿子死于
  • 耶斯迦耶斯迦(梵语:यास्कः)是先于波你尼的梵语语法学家(公元前六-五世纪,依据乔治敦大学的 Shukla 考证)。他的著名著作是《尼禄多》,处理词的词源、词法范畴和语义。他被认为继承