熵率

✍ dations ◷ 2025-11-29 11:27:27 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 凸版印刷凸版印刷(英语:Letterpress)凸版从前以活版为主,其他和活版并版的图片版,不管是锌质还是胶质,均同属凸版(包括古代以整块木板去雕刻的木刻版)。最早由石括、括章所衍生而来,并应用于
  • 詹姆士·柯本詹姆斯·柯本(英语:James Coburn,1928年8月31日-2002年11月18日),好莱坞著名动作片影星,常演战争片里军人(特别是德军)、或是反派角色、坏人;1999年因演出Affliction(英语:Affliction (1
  • 橙盖鹅膏菌橙盖鹅膏菌 (学名: Amanita caesarea ),又名凯撒磨菇、橙盖伞、黄罗伞及白橙盖鹅膏菌,有“凯撒磨菇”之称,是鹅膏菌科鹅膏属的食用菌,原产于欧洲南部及北非。它的菌盖呈突出的橙色
  • 团子 (日本)团子是日式点心(和菓子)的一种。制作方法介于元宵和汤圆之间,是借由搓半湿的糯米米粉制成。没有馅料,用开水煮熟捞出,食用时会裹上豆粉、黑芝麻、白糖或花生粉等埘粉。到了日本经
  • C8复合物补体成分C8(C8)是一类与补体系统功能有关的蛋白质。C8的基因缺陷可能会增加被可导致淋病和脑膜炎奈瑟菌感染的概率。1.J Biol Chem. 2011 May 20;286(20):17585-92. Epub 2011
  • 若望·鲍思高圣若望·鲍思高(意大利语:San Giovanni Melchiorre Bosco;拉丁语:Sanctus Ioannes Melchior Bosco,1815年8月16日-1888年1月31日),意大利天主教神父,也是慈幼会的创办人。天主教册封
  • 张先林张先林(1902年-1969年),安徽合肥人。美国纽约大学医学博士,先后在北平协和医学院服务九年医师职务,由住院医师以至外科总医师,教师职务由助教以至副教授。1939年起转任军职,除医疗工
  • 黑钻石黑钻石(又称黑金刚石或Carbonado)是一种发现在中非共和国及巴西冲积矿床的天然多晶金刚石。它的自然颜色是黑色或暗灰色,比其它钻石有更多更孔隙。除了另行说明外,黑钻石的特点
  • 格查战士格查战士(西班牙语:güecha)是前哥伦布时期穆伊斯卡邦联于Tenza谷、乌瓦克谷与昆迪博亚卡高原的战士。格查战士以态度与体格来选拔,并非是靠阶级。有着独特的社会地位并著有金子
  • 扎拉纳什科利湖扎拉纳什科利湖(哈萨克语:Жалаңашкөл,直译为“裸露的湖” 俄语:Жаланашколь)是哈萨克斯坦东部阿拉木图州阿拉科尔区与东哈萨克斯坦州乌尔扎尔区边界的一个