马尔可夫链

✍ dations ◷ 2025-10-20 06:18:21 #马尔可夫链

马尔可夫链(英语:Markov chain),又称离散时间马尔可夫链(discrete-time Markov chain,缩写为DTMC),因俄国数学家安德烈·马尔可夫得名,为状态空间中经过从一个状态到另一个状态的转换的随机过程。该过程要求具备“无记忆”的性质:下一状态的概率分布只能由当前状态决定,在时间序列中它前面的事件均与之无关。这种特定类型的“无记忆性”称作马尔可夫性质。马尔科夫链作为实际过程的统计模型具有许多应用。

在马尔可夫链的每一步,系统根据概率分布,可以从一个状态变到另一个状态,也可以保持当前状态。状态的改变叫做转移,与不同的状态改变相关的概率叫做转移概率。随机漫步就是马尔可夫链的例子。随机漫步中每一步的状态是在图形中的点,每一步可以移动到任何一个相邻的点,在这里移动到每一个点的概率都是相同的(无论之前漫步路径是如何的)。

马尔可夫链是离散状态、离散时间的马尔可夫过程。

马尔可夫链是满足马尔可夫性质的随机变量序列1, 2, 3, ...,即给出当前状态,将来状态和过去状态是相互独立的。从形式上看,

的可能值构成的可数集叫做该链的“状态空间”。

通常用一系列有向图来描述马尔可夫链,其中图的边用从时刻的状态到时刻的状态的概率 Pr ( X n + 1 = x X n = x n ) {displaystyle Pr(X_{n+1}=xmid X_{n}=x_{n})} 到时刻的转移矩阵表示同样的信息。但是,马氏链常常被假定为时齐的(见下文的变种),在这种情况下,图和矩阵与无关,因此也不表现为序列。

这些描述强调了马尔可夫链与初始分布 Pr ( X 1 = x 1 ) {displaystyle Pr(X_{1}=x_{1})} 到的概率非零,但到位于图的不同连通分量,那么 Pr ( X n + 1 = b | X n = a ) {displaystyle Pr(X_{n+1}=b|X_{n}=a)} 步从状态到状态的概率为

而单步转移是

对于一个时齐马尔可夫链来说:

步转移概率满足查普曼-科尔莫戈罗夫等式,对任意使得0 <  < ,

其中为此马尔可夫链的状态空间。

边缘分布Pr( = )为第次状态的分布。初始分布为Pr(0 = )。用一步转移把过程演变描述为

注意:上标()是索引而非指数。

马尔可夫链是由一个条件分布来表示的

这被称为是随机过程中的“转移概率”。这有时也被称作是“一步转移概率”。二、三,以及更多步的转移概率可以导自一步转移概率和马尔可夫性质:

同样,

这些式子可以通过乘以转移概率并求 k 1 {displaystyle k-1} 求和:

所以,对于可反转马尔可夫链,总是一个平稳分布。

伯努利方案是马尔可夫链的一种特殊情形,其转移概率矩阵有相同的行,即下一状态均匀独立于当前状态(除了独立于过往状态以外)。 仅有两个可能状态的伯努利方案是伯努利过程。

对于一般状态空间上的马尔可夫链的概述,详见文章状态空间可测的马尔可夫链。

马尔可夫系统广泛出现在热力学和统计力学中,

隐马尔科夫模型是大多数现代自动语音识别系统的基础。

谷歌所使用的网页排序算法(PageRank)就是由马尔可夫链定义的。如果 N {displaystyle N} 是已知的网页数量,一个页面 i {displaystyle i} k i {displaystyle k_{i}} 个链接到这个页面,那么它到链接页面的转换概率为 α k i + 1 α N {displaystyle {frac {alpha }{k_{i}}}+{frac {1-alpha }{N}}} ,到未链接页面的概率为 1 α N {displaystyle {frac {1-alpha }{N}}} , 参数 α {displaystyle alpha } 的取值大约为0.85。

马尔可夫模型也被应用于分析用户浏览网页的行为。一阶或者二阶的马尔可夫模型可以用于对一个用户从某一网络链接转移到另一链接的行为进行建模,然后这些模型可以用于对用户之后的浏览行为进行预测。

马尔科夫链可以应用于金融与经济中一系列现象的建模,包括资产价值与市场冲击。1974年Prasad等人第一次应用马尔科夫链于金融模型,另一个是James D. Hamilton 1989年应用的机制转换模型,其中马尔科夫链用来对高GDP增长速度时期与低GDP增长速度时期(换言之,经济扩张与紧缩)的转换进行建模。

马尔可夫链也有众多的生物学应用,特别是增殖过程,可以帮助模拟生物增殖过程的建模。隐蔽马尔可夫模型还被用于生物信息学,用以编码区域或基因预测(见哈代-温伯格定律。)

马尔可夫过程,能为给定样品文本,生成粗略,但看似真实的文本:他们被用于众多供消遣的“模仿生成器”软件。马尔可夫链还被用于谱曲。

用于计算马尔可夫信源的极限熵

马尔可夫在1906年首先做出了这类过程。而将此一般化到可数无限状态空间是由俄国数学家柯尔莫果洛夫(俄语:Андре́й Никола́евич Колмого́ров)在1936年给出的。马尔可夫链与布朗运动以及遍历假说这两个二十世纪初期物理学重要课题是相联系的,但马尔可夫寻求的似乎不仅于数学动机,名义上是对于纵属事件大数法则的扩张。

相关

  • 应力性骨折疲劳性骨折,又称应力性骨折,是一种不完全骨折。通常由于异常的或重复性的外界应力,或者腿部或踝部持续负重所导致。常发生于胫骨、跖骨,以及相对少见的股骨、桡骨。疲劳性骨折是
  • 和平符号和平符号,也称反战符号,是目前常见的和平符号,源于1950年代英国核裁军运动的标志,后来也被美国及其他地区的非主流文化及反战人士接受,V字手势及和平旗(英语:peace flag)也是国际通
  • Mac OS X v10.0Mac OS X v10.0(其代号为“Cheetah”,“Cheetah”字面解作猎豹)是苹果公司的桌面及服务器操作系统MacOS X的首个主要版本(其前身份别于2012年称为OS X及2016年称为macOS)。该操作
  • 台湾桃园国际机场重要事件年表台湾桃园国际机场重要事件年表是一份收录桃园国际机场发展及遭遇的重大事件的列表。
  • 奔跑吧兄弟《奔跑吧兄弟》(英语:)是中国浙江卫视引进韩国SBS电视台制作的真人实境秀节目,原版为韩国SBS电视台的《Running Man》。《奔跑吧兄弟》的游戏设定为成员与嘉宾前往各个任务地点
  • 妙手情真《妙手情真》 (英语:Patch Adams),是一部1998年上映的美国剧情电影,由汤姆·薛狄艾克(英语:Tom Shadyac)执导,罗宾·威廉斯等人主演;本片改编自心理治疗师派奇·亚当斯的真实人生经历,
  • 张玉芹张玉芹(1941年12月-2002年7月),女,黑龙江哈尔滨人,中华人民共和国政治人物,曾任贵州省革命委员会副主任,贵州省人民政府副省长。
  • 骑士&魔法《骑士&魔法》(日语:ナイツ&マジック)是天酒之瓢(日语:天酒之瓢)著作的日本轻小说作品。最初是发表于小说投稿网站《成为小说家吧》的网络连载小说。由主妇之友社(日语:主婦の友社)出版,插画为黑银。曾获得了2014年第三届店员最爱轻小说大赏的第二名。2017年7月2日起由东京都会电视台、京都放送等电视台播出。2013年开始由主妇之友社(日语:主婦の友社)出版。2016年5月总计卖出40万4000本。2016年4月在《YOUNG GANGAN》连载漫画,由加藤拓贰作画。2016年9月决定改编为电视动画。201
  • 戴相 (天启进士)戴相(?-1634年),号梅鼎,福建晋江县人,明朝政治人物,同进士出身。戴同吉五世孙,父戴尧扬。兄戴榜,万历二十八年举人。诗一房,辛卯十二月初二日生。万历四十年(1612年)壬子科福建乡试第三十九名,天启二年(1622年)壬戌科会试二百四名,三甲一百八十一名进士,三年授浙江永嘉县知县,崇祯元年考选,授山东道监察御史。丁忧归。四年起江西道御史,巡按广西,六年巡按湖广,七年卒。
  • 南方体育《南方体育》,是中国广州南方日报报业集团(现南方报业传媒集团)出版的一份综合性体育类报纸,于2000年3月17日创刊,2005年8月30日停刊,维持了1992天。共计出版529期。《南方体育》初期追求的口号为“以有趣对抗无趣”,追求体育娱乐化。其封面往往选用极具冲击力的大照片,曾经以“足球宝贝”轰动一时,牢牢抓住人的眼球。在内页版面上设计上,设计也非常讲究。文章、评论风格鲜活、锐利,其专题往往能突破传统,影响很大。但也有人批评其风格过于张扬。《南方体育》对中国国内体育媒体影响极大,甚至有人称其是中国体育媒