熵率

✍ dations ◷ 2025-11-09 08:10:39 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 空间科学name = 'Aero', description = '航空太空科技(航空航天科技)', content = {{ type = 'text', text = [=[本页面没有类似于NoteTA的数量限制。 请自行修改分类名。在NoteTA样板
  • 象征天皇制象征天皇制(日语:象徴天皇制),是指在日本国宪法规定之下,天皇作为日本国家以及国民总合象征的制度。日本国宪法规定,天皇乃日本国之象征,亦为日本国民统合之象征,其地位是基于主权所
  • 真空能量真空能量(Vacuum energy)是一种存在于空间中的背景能量,即使在没有物质的空间(称为自由空间)亦然存在。真空能量导致了多数基本力的存在。它的效应可以在各式各样的实验中观测到,
  • 偶联化合物偶联反应,也写作耦合反应、偶合反应或耦联反应,是两个化学实体(或单位)结合生成一个分子的有机化学反应。狭义的偶联反应是涉及有机金属催化剂的碳-碳键形成反应,根据类型的不同,
  • 北美水獭北美水獭(学名:Lontra canadensis),是一种产于北美洲的水獭,也叫北方水獭。分布于整个北美大陆的河岸与淡水水域,包括加拿大、阿拉斯加、美国西北、亚特兰大等州,以及墨西哥湾。北
  • 4个月3星期零2天《4个月3星期零2天》(罗马尼亚语:4 luni, 3 săptămâni şi 2 zile),2007年罗马尼亚的一部电影,由克里斯蒂安·蒙久编写并执导。该片曾在2007年第60届戛纳国际电影节获得金棕榈
  • 笠诗社笠诗社是台湾的一个现代诗诗社,成立于1964年6月,由注重台湾现实状况的一群现代诗人:白萩、陈千武、杜国清、赵天仪、林亨泰、李魁贤、王羡阳、詹冰、锦连、吴瀛涛、黄荷生、古
  • MPEGMPEG正式审核程序是Moving Picture Experts Group的简称。这个名字本来的含义是指一个研究视频和音频编码标准的“动态图像专家组”组织,成立于1988年,致力开发视频、音频的压
  • 德国产业革命德国产业革命是德国于19世纪出现的工业革命,当中以机器为主体的工厂制度取代了以手工技艺为主的生产过程。德国产业革命共分三个时期:初期(19世纪30年代至40年代);高速发展时期或
  • 进程控制块进程控制块(英语:Process Control Block,PCB)是操作系统核心中一种数据结构,主要表示行程状态。虽各实际情况不尽相同,PCB通常记载行程之相关信息,包括:总言之,PCB如其名,内容不脱离各