并行退火

✍ dations ◷ 2025-09-10 23:51:57 #蒙地卡罗方法,计算统计学,贝叶斯统计,启发法

并行退火(Parallel tempering),也称作replica exchange MCMC sampling,是一种用于动态改进蒙特卡罗方法的模拟算法。该算法用于模拟物理过程。同时更普遍地应用于蒙特卡罗马可夫链(Markov chain Monte Carlo,MCMC)抽样方法。Sugita和Okamoto数学定义了一种分子动力学描述的并行退火算法:通常被称为replica-exchange molecular dynamics(REMD)。

一般的蒙特卡洛模拟使用Metropolis抽样,即接受概率 P ( a c c ) = m i n ( 1 , e Δ U k B T ) {\displaystyle P(acc)=min(1,e^{-{\frac {\Delta U}{k_{B}T}}})} ,相同高度的势垒,温度越低越难以逾越,使得模拟需要相当长的模拟步长才能达到平衡,统计抽样满足各态历经。为了提高性能,采取如下策略:同时模拟一系列仅有温度不同的系统,在某些时刻随机选取相邻两个温度的系统,按如下接受概率置换两系统的温度:

其中,Ei和Ej是两个系统的总能量,Ti,Tj是温度,kB是玻尔兹曼因子。温度置换的过程是非物理的,但只要在一步中选择普通Metropolis抽样和温度置换分别以一定概率择其一,此过程仍然遵守细致平衡(英语:Detailed_balance)。

并行退火可以用于温度以外的变量以改进抽样。例如,巨正则系综下蒙特卡罗模拟兰纳-琼斯势粒子的气液相平衡时,如果系统条件远离临界温度,密度的涨落很小,模拟中难以观测相变。而同时模拟多个化学势的系统,并按相似的接受法则置换系统的化学势:

其中i,j是两个超额化学势(相对理想气体)分别为 μ i , μ j {\displaystyle \mu _{i},\mu _{j}} 的系统,它们的粒子个数分别为 N i , N j {\displaystyle N_{i},N_{j}} ,内能分别为 U i , U j {\displaystyle U_{i},U_{j}} .此模拟得到的密度概率函数能准确地反映气相和液相两个峰。

并行退火在训练神经网络时也有相似的应用。将一个系统运行在N个不同温度的条件下,并根据Metropolis法则 页面存档备份,存于互联网档案馆交换不同温度下的状态,因而可以用高温环境的参数去模拟低温环境,反之亦然。并行退火算法可用于人工神经网络训练,改进MCMC,虽然增加了计算复杂度,但提供了更快的马尔科夫链混合(mixing,指收敛)速度和更高的准确性。神经元之间的参数交换被描述为不同温度下分子状态的交换,随机交换的概率由Metropolis法则给出。尤其用于约束波茨曼机训练。

相关

  • 联邦安全会议副主席俄罗斯联邦安全会议(俄语:Совет Безопасности Российской Федерации,缩写СБ РФ)是一个直属于俄罗斯联邦总统的组织,主要任务在于为总统
  • span class=nowrapZrClsub4/sub/span四氯化锆,是一种锆化合物,并且是多种锆盐的前体。与四氯化钛不同,固态的ZrCl4中存在着以锆原子为中心的含有氯桥连接的八面体配位结构。这也就解释了它们在熔点上的巨大差异。
  • 墨西哥地震预警系统墨西哥地震预警系统(西班牙语:Sistema de Alerta Sísmica Mexicano, SASMEX),是墨西哥依托潜在震源地附近的地震台网,在震后数秒内快速估算地震影响范围和程度,在破坏性的S波和面
  • FIA国际汽车联合会(简称国际汽联;法语:Fédération Internationale de l'Automobile,缩写:FIA),为成立于1904年6月20日的非牟利性国际组织,主要致力于协调各国汽车与摩托车组织、帮助
  • 布洛芬布洛芬(英语:Ibuprofen,商品名:芬必得、普罗芬),是一种非类固醇消炎药(NSAID),用来止痛,退烧和消炎。可用于治疗经痛、偏头痛,和类风湿性关节炎。大约60%的人在使用任意一种NSAID后症状
  • 卡尔王子 (黑森-卡塞尔)黑森-卡塞尔的卡尔王子(德语:Karl von Hessen-Kassel;1744年12月19日-1836年8月17日),黑森-卡塞尔伯爵腓特烈二世的第三子。1766年,卡尔与丹麦国王克里斯蒂安七世的妹妹路易丝公主
  • 研科研科(英文:Telus,TSX: T,TSX: T.A,NYSE:TU)是加拿大一间以电讯服务为主体的公司。主要业务包括固定电话,移动电话,互联网等。总部设在不列颠哥伦比亚省的本拿比市。主要竞争对手包括
  • 维拉·哥利维拉·哥利(英语:Virat Kohli, 印地语:विराट कोहली,1988年11月5日-)是印度板球运动员及印度板球国家队的队长。哥利亦被ESPN及福布斯评为世界最知名及印度最有价值的运
  • 中期票据中期票据(英文:Medium term note,缩写:MTN或者MTNs),是在银行间债券市场按计划分期发行的,约定在一定期限内还本付息的债务融资工具。因其期限长于商业票据,而短于一般企业债券而得
  • 泰莎·法梅加泰莎·法梅加 (英语:Taissa Farmiga,1994年8月17日-) ,美国女演员。她从2011年的戏剧电影《更高境界》开始她的演艺事业,接着在FX的剧集《美国恐怖故事:凶宅》作为她小萤幕的初登场