熵率

✍ dations ◷ 2025-11-28 21:33:21 #信息论,熵,马尔可夫模型

在概率的数学理论中,非正式地说,一个随机过程的熵率或信源信息率是在一个随机过程的平均信息的时间密度。对于一个索引可数的随机过程,熵率 Η() 是 个 过程作为成员的联合熵,在 趋向无穷时的极限:

前提是该极限存在。另一种相关量为:

对于强平稳随机过程, H ( X ) = H ( X ) {\displaystyle \mathrm {H} (X)=\mathrm {H} '(X)} 的马尔可夫链 ,Η() 由下式给出:

其中 是该链的平稳分布。

此定义的一个简单结果是,一个独立同分布的随机过程的熵率与该过程中的任何个别成员的熵相同。

相关

  • 单糖单糖(monosaccharides (源自希腊语 monos: single, sacchar: sugar), 亦称:simple sugars)是碳水化合物的一种,其结构在众多糖分子中是最简单的。味道甜美,能溶于水和会结晶。单
  • 全面禁止核试验条约《全面禁止核试验条约》 (英语:Comprehensive Nuclear Test Ban Treaty,CTBT),是一个国际条约。在1963年《部分禁止核试验条约》(PTBT)的基础上,要求缔约国承诺:不进行、导致、鼓励或
  • 金芳蓉金芳蓉(1949年10月9日-),英文全名Fan Rong K Chung Graham,在学术上则用Fan Chung,出生于台湾高雄,台裔数学家,工作主要在图论。目前于美国加利福尼亚大学圣地牙哥分校当教授。受父
  • 颛臾颛臾(汉语拼音:zhuān yú),位于今山东省的风姓古国,相传以风为姓的太皞后裔,西周初期,周武王封之,周天子给颛臾国的主要任务就是祭祀蒙山。春秋时期,颛臾为鲁国封疆内的附庸国。《春
  • 克莱·舍基克莱·舍基(Clay Shirky)(1964年-)是一个研究互联网技术的社会和经济影响的美国作家,顾问和老师。舍基在耶鲁大学(Yale University)毕业,在互动电信项目(英语:Interactive Telecommun
  • 每一次《每一次》(英语:)是美国女歌手布兰妮·斯皮尔斯的一支单曲。于2004年5月7日由Jive唱片作为布兰妮第4张录音室专辑《流行禁区》的第3支单曲发行。在2002年布兰妮结束了和贾斯汀
  • 何塞·桑胡尔霍何塞·桑胡尔霍(西班牙语:José Sanjurjo y Sacanell,1872年3月28日-1936年7月20日)是西班牙的一名军事领袖,曾在1932年8月10日企图发动军事政变,推翻第二共和国,但失败入狱,原预计判
  • 王世忠王世忠,原名克把库、又作革把库,哈达那拉氏,哈达国主孟格布禄次子,哈达灭亡后,入明成长为官,谋求恢复故地,并对后金国内的海西女真旧部实行策反,清兵入关后投降清廷。克把库为哈达国
  • 水合物列表水合物列表收录了一些物质所对应水合物的种类及性质,物质按元素周期表的族排列,排列依据为金属离子,非金属物质则以中心原子排列。如果有多个阴(阳)离子则按中心原子(金属元素)最活
  • 南达科他州议会大厦南达科他州议会大厦(South Dakota State Capitol)是美国南达科他州议会的开会地点,位于南达科他州首府皮尔。南达科他州议会大厦修建于1905年至1910年期间,耗资约100万美元。197