并行退火

✍ dations ◷ 2025-04-26 11:59:32 #蒙地卡罗方法,计算统计学,贝叶斯统计,启发法

并行退火(Parallel tempering),也称作replica exchange MCMC sampling,是一种用于动态改进蒙特卡罗方法的模拟算法。该算法用于模拟物理过程。同时更普遍地应用于蒙特卡罗马可夫链(Markov chain Monte Carlo,MCMC)抽样方法。Sugita和Okamoto数学定义了一种分子动力学描述的并行退火算法:通常被称为replica-exchange molecular dynamics(REMD)。

一般的蒙特卡洛模拟使用Metropolis抽样,即接受概率 P ( a c c ) = m i n ( 1 , e Δ U k B T ) {\displaystyle P(acc)=min(1,e^{-{\frac {\Delta U}{k_{B}T}}})} ,相同高度的势垒,温度越低越难以逾越,使得模拟需要相当长的模拟步长才能达到平衡,统计抽样满足各态历经。为了提高性能,采取如下策略:同时模拟一系列仅有温度不同的系统,在某些时刻随机选取相邻两个温度的系统,按如下接受概率置换两系统的温度:

其中,Ei和Ej是两个系统的总能量,Ti,Tj是温度,kB是玻尔兹曼因子。温度置换的过程是非物理的,但只要在一步中选择普通Metropolis抽样和温度置换分别以一定概率择其一,此过程仍然遵守细致平衡(英语:Detailed_balance)。

并行退火可以用于温度以外的变量以改进抽样。例如,巨正则系综下蒙特卡罗模拟兰纳-琼斯势粒子的气液相平衡时,如果系统条件远离临界温度,密度的涨落很小,模拟中难以观测相变。而同时模拟多个化学势的系统,并按相似的接受法则置换系统的化学势:

其中i,j是两个超额化学势(相对理想气体)分别为 μ i , μ j {\displaystyle \mu _{i},\mu _{j}} 的系统,它们的粒子个数分别为 N i , N j {\displaystyle N_{i},N_{j}} ,内能分别为 U i , U j {\displaystyle U_{i},U_{j}} .此模拟得到的密度概率函数能准确地反映气相和液相两个峰。

并行退火在训练神经网络时也有相似的应用。将一个系统运行在N个不同温度的条件下,并根据Metropolis法则 页面存档备份,存于互联网档案馆交换不同温度下的状态,因而可以用高温环境的参数去模拟低温环境,反之亦然。并行退火算法可用于人工神经网络训练,改进MCMC,虽然增加了计算复杂度,但提供了更快的马尔科夫链混合(mixing,指收敛)速度和更高的准确性。神经元之间的参数交换被描述为不同温度下分子状态的交换,随机交换的概率由Metropolis法则给出。尤其用于约束波茨曼机训练。

相关

  • RNA复制酶结构 / ECOD结构 / ECODRNA复制酶(RNA replicase),或名RNA依赖性RNA聚合酶(RNA-dependent RNA polymerase 缩写RdRp或RDR),系一类能以RNA为模板复制RNA的酶。值得注意的是,这类酶和
  • 无效医疗无效医疗(英语:futile medical care),意指在没有希望可以改善病患状况下,仍然坚持进行的医疗行为。有些人相信,在这种状况下,医生采取医疗行为,只会增加医疗成本,因此应该避免。英语:F
  • 醋酸钙乙酸钙是钙的乙酸盐,分子式为Ca(C2H3O2)2。乙酸钙的常用名是醋酸钙。无水乙酸钙的吸湿性非常好,因此常见的乙酸钙都以一水合(Ca(CH3COO)2.H2O,CAS )的形式存在。如果在饱和乙酸钙
  • 解脱在印度宗教中,解脱(梵语:मोक्ष,转写:mokṣa,或 मुक्ति〔mukti〕、vimoksha、vimukti),意即“解放”,是印度宗教的重要神学与哲学概念,指生命个体能够脱离世间生死轮回及其
  • 普罗维登斯普洛威顿斯学院(英语:Providence College)是一所位于美国罗德岛州普洛威顿斯的私立研究型大学,创建于1917年。2015年《美国新闻与世界报道》将其列在“北部地区大学”排名中的第
  • 贝纳迪诺·里瓦达维亚贝纳迪诺·德拉·特里尼达德·冈萨雷斯·里瓦达维亚·伊·里瓦达维亚(Bernardino de la Trinidad Gónzalez Rivadavia y Rivadavia,1780年5月20日-1845年9月2日),阿根廷共和国第
  • 中期选举议长:南希·裴洛西(民主党) 多数党领袖(英语:Party leaders of the United States House of Representatives):斯坦利·霍耶(民主党) 少数党领袖(英语:Party leaders of the United Sta
  • 咄陆咄陆(保加利亚语:Дуло)是早期匈人-保加尔人的王族。是老大保加利亚建国者一家的氏族。这氏族在保加尔王族系谱中最早祖先是匈人阿提拉(有人说咄陆出自匈奴屠各),但这氏族也与
  • 威廉姆斯湖威廉姆斯湖(Williams Lake),是加拿大不列颠哥伦比亚省中部的一个城市,总面积33.03平方公里,总人口10,832(2011年)。威廉姆斯湖为加拿大残疾运动员里克·汉森(Rick Hansen)的故乡。
  • 麦奇·威尔许曾任 贝斯手- 背景合声 麦奇·威尔许(Mikey Welsh,1971年4月20日-2011年10月8日),出生于美国纽约州雪城,是另类摇滚乐团(英语:Band (rock and pop))“威瑟”(Weezer)的前贝斯手。威尔许