并行退火

✍ dations ◷ 2024-12-23 08:24:31 #蒙地卡罗方法,计算统计学,贝叶斯统计,启发法

并行退火(Parallel tempering),也称作replica exchange MCMC sampling,是一种用于动态改进蒙特卡罗方法的模拟算法。该算法用于模拟物理过程。同时更普遍地应用于蒙特卡罗马可夫链(Markov chain Monte Carlo,MCMC)抽样方法。Sugita和Okamoto数学定义了一种分子动力学描述的并行退火算法:通常被称为replica-exchange molecular dynamics(REMD)。

一般的蒙特卡洛模拟使用Metropolis抽样,即接受概率 P ( a c c ) = m i n ( 1 , e Δ U k B T ) {\displaystyle P(acc)=min(1,e^{-{\frac {\Delta U}{k_{B}T}}})} ,相同高度的势垒,温度越低越难以逾越,使得模拟需要相当长的模拟步长才能达到平衡,统计抽样满足各态历经。为了提高性能,采取如下策略:同时模拟一系列仅有温度不同的系统,在某些时刻随机选取相邻两个温度的系统,按如下接受概率置换两系统的温度:

其中,Ei和Ej是两个系统的总能量,Ti,Tj是温度,kB是玻尔兹曼因子。温度置换的过程是非物理的,但只要在一步中选择普通Metropolis抽样和温度置换分别以一定概率择其一,此过程仍然遵守细致平衡(英语:Detailed_balance)。

并行退火可以用于温度以外的变量以改进抽样。例如,巨正则系综下蒙特卡罗模拟兰纳-琼斯势粒子的气液相平衡时,如果系统条件远离临界温度,密度的涨落很小,模拟中难以观测相变。而同时模拟多个化学势的系统,并按相似的接受法则置换系统的化学势:

其中i,j是两个超额化学势(相对理想气体)分别为 μ i , μ j {\displaystyle \mu _{i},\mu _{j}} 的系统,它们的粒子个数分别为 N i , N j {\displaystyle N_{i},N_{j}} ,内能分别为 U i , U j {\displaystyle U_{i},U_{j}} .此模拟得到的密度概率函数能准确地反映气相和液相两个峰。

并行退火在训练神经网络时也有相似的应用。将一个系统运行在N个不同温度的条件下,并根据Metropolis法则 页面存档备份,存于互联网档案馆交换不同温度下的状态,因而可以用高温环境的参数去模拟低温环境,反之亦然。并行退火算法可用于人工神经网络训练,改进MCMC,虽然增加了计算复杂度,但提供了更快的马尔科夫链混合(mixing,指收敛)速度和更高的准确性。神经元之间的参数交换被描述为不同温度下分子状态的交换,随机交换的概率由Metropolis法则给出。尤其用于约束波茨曼机训练。

相关

  • 减毒病毒疫苗减毒活病毒(英语:attenuated virus,又译弱化病毒)是指致病性被削弱的病毒,这些病毒在毒性降低的同时,仍保有活性,也就是并未被杀死。制造这类病毒的主要目的是为了生产疫苗。与其相
  • 债务债或债务(英语:Debt),可以简单的解释为一个自然人或公司、财团、组织、政府等机构法人亏欠其他个体的东西,可以是金钱,也可以是别的有价物。债务有别于会计意义上的负债(Liabilitie
  • 王力王力可能是指:
  • 黑曜岩黑曜石(英语:Obsidian)又名十胜石,是一种自然产生的玻璃。成因是因为火山熔岩迅速冷却凝结,没有足够的时间让矿物晶体长出,而形成玻璃质。因为熔岩流外围冷却的速度最快,所以黑曜石
  • 春秋决狱春秋决狱是中国古代在审判案件时的一种断狱方式,司法官根据《春秋》的义理来判断案件如何定罪。春秋决狱从汉武帝时代开始,直至唐朝儒家思想和法学完全结合在一起,“礼法合一”
  • 职业训练中心劳动部劳动力发展署(简称劳动部劳发署)是中华民国劳动部所属机关,负责中华民国就业服务、全国技术士技能检定与技术士证照业务、身心障碍者及特定对象就业训练、外籍劳工聘雇许
  • 古白鲟古白鲟(学名:),是一种已灭绝的匙吻鲟,生存于晚白垩纪的北美洲。古白鲟属下已知只有一个物种,即威氏古白鲟()。目前对古白鲟的资讯来自于三个现存于密歇根大学古生物博物馆内的化石
  • 威廉四世 (英国)英王威廉四世(英语:William IV,1765年8月21日-1837年6月20日),1830年—1837年逝世在位为联合王国国王威廉四世和汉诺威国王威廉(德语:Wilhelm)。威廉四世是乔治三世的第三个儿子,也是
  • 犯罪与不端《犯罪与不端》(英语:)是一套1989年的美国黑色喜剧片,由伍迪·艾伦执导,伍迪·艾伦本身及马田·兰杜等主演。电影以纽约市为背景,描述一名眼科医生及一名事业不振的纪录片导演怎样
  • GreenBrowserGreenBrowser是一款基于Internet Explorer的分页式浏览器,曾经是开放源码软件,最近将主页上的开源页面去除,但仍可以下载旧版本(3.1.0370)的源码。