在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:
前提是该极限存在。另一种相关量为:
对于强平稳随机过程, 的马尔可夫链 ,Η() 由下式给出:
其中 是该链的平稳分布。
此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。
在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:
前提是该极限存在。另一种相关量为:
对于强平稳随机过程, 的马尔可夫链 ,Η() 由下式给出:
其中 是该链的平稳分布。
此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。