并行退火

✍ dations ◷ 2025-09-17 19:39:57 #蒙地卡罗方法,计算统计学,贝叶斯统计,启发法

并行退火(Parallel tempering),也称作replica exchange MCMC sampling,是一种用于动态改进蒙特卡罗方法的模拟算法。该算法用于模拟物理过程。同时更普遍地应用于蒙特卡罗马可夫链(Markov chain Monte Carlo,MCMC)抽样方法。Sugita和Okamoto数学定义了一种分子动力学描述的并行退火算法:通常被称为replica-exchange molecular dynamics(REMD)。

一般的蒙特卡洛模拟使用Metropolis抽样,即接受概率 P ( a c c ) = m i n ( 1 , e Δ U k B T ) {\displaystyle P(acc)=min(1,e^{-{\frac {\Delta U}{k_{B}T}}})} ,相同高度的势垒,温度越低越难以逾越,使得模拟需要相当长的模拟步长才能达到平衡,统计抽样满足各态历经。为了提高性能,采取如下策略:同时模拟一系列仅有温度不同的系统,在某些时刻随机选取相邻两个温度的系统,按如下接受概率置换两系统的温度:

其中,Ei和Ej是两个系统的总能量,Ti,Tj是温度,kB是玻尔兹曼因子。温度置换的过程是非物理的,但只要在一步中选择普通Metropolis抽样和温度置换分别以一定概率择其一,此过程仍然遵守细致平衡(英语:Detailed_balance)。

并行退火可以用于温度以外的变量以改进抽样。例如,巨正则系综下蒙特卡罗模拟兰纳-琼斯势粒子的气液相平衡时,如果系统条件远离临界温度,密度的涨落很小,模拟中难以观测相变。而同时模拟多个化学势的系统,并按相似的接受法则置换系统的化学势:

其中i,j是两个超额化学势(相对理想气体)分别为 μ i , μ j {\displaystyle \mu _{i},\mu _{j}} 的系统,它们的粒子个数分别为 N i , N j {\displaystyle N_{i},N_{j}} ,内能分别为 U i , U j {\displaystyle U_{i},U_{j}} .此模拟得到的密度概率函数能准确地反映气相和液相两个峰。

并行退火在训练神经网络时也有相似的应用。将一个系统运行在N个不同温度的条件下,并根据Metropolis法则 页面存档备份,存于互联网档案馆交换不同温度下的状态,因而可以用高温环境的参数去模拟低温环境,反之亦然。并行退火算法可用于人工神经网络训练,改进MCMC,虽然增加了计算复杂度,但提供了更快的马尔科夫链混合(mixing,指收敛)速度和更高的准确性。神经元之间的参数交换被描述为不同温度下分子状态的交换,随机交换的概率由Metropolis法则给出。尤其用于约束波茨曼机训练。

相关

  • 安那托利亚语族安那托利亚语族是印欧语系下的一族语言(在有些分类中,此族不属于印欧语系,但极为接近)。此语族语言曾在小亚细亚使用,目前已消亡,包括赫梯语、卢维语(“赫梯象形文字”使用的语言)和
  • 金色金色,是一种近似金的颜色。它并不是一种单色,而是渐变的黄色。
  • 硬颚挤喉音(Palatal ejective)是一种辅音,出现于一些口语中。国际音标将此音记作⟨cʼ⟩,其对应的X-SAMPA音标为c`_>。硬颚挤喉音的特征包括:此音主要出现在一些美洲原住民的语言
  • 原水交社宿舍群暨文化景观水交社是位于台湾台南市南区的地名,得名自日治时期在此设立的“水交社”(日本海军将官的亲睦团体),而与“水交社”一同设立的还有海军航空队宿舍,水交社地名主要指的即宿舍区一带
  • 章利片章利片(根据《汉语官话方言研究》;《中国语言地图集》称章桓小片,归沧惠片)是冀鲁官话的一个分支,分布在山东省北部。该小片分两部分,中间有冀鲁官话沧惠片阳寿小片相隔。
  • 都匀市都匀市位于中国贵州省南部,是黔南布依族苗族自治州的首府。距离贵州省省会贵阳146公里。都匀市总面积2274平方公里,总人口为50万,有布依族、苗族、水族、瑶等33个少数民族,占总
  • 硼的同位素硼(原子量:10.811(7))共有14个同位素,其中有2个是稳定的。备注:画上#号的数据代表没有经过实验的证明,只是理论推测而已,而用括号括起来的代表数据不确定性。
  • 热情姊妹热情姊妹(英语:Passion Sisters)是台湾中华职棒中信兄弟的专属啦啦队,成员皆为宏将多利安的模特儿。2014年3月24日,热情姊妹成军。2015年3月发行第一张单曲《蹦蹦跳》,成为中华职
  • 冰魄寒光剑梁羽生所著的武侠小说。于1961年连载,连载时书名为《幽谷寒冰》。前接江湖三女侠,后续为冰川天女传。  桂仲明的第二个儿子。  尼泊尔公主。通晓中国文化。  印度王子,龙
  • 伊号第十六潜舰伊号第一六潜水舰(イごうだいじゅうろくせんすいかん)是大日本帝国海军伊一六型潜水舰的一号舰。