并行计算

✍ dations ◷ 2025-12-06 20:46:12 #计算机科学,理论计算机科学,并发计算,分布式计算

并行计算(英语:parallel computing)一般是指许多指令得以同时进行的计算模式。在同时进行的前提下,可以将计算的过程分解成小部分,之后以并发方式来加以解决。

电脑软件可以被分成数个运算步骤来运行。为了解决某个特定问题,软件采用某个算法,以一连串指令运行来完成。传统上,这些指令都被送至单一的中央处理器,以循序方式运行完成。在这种处理方式下,单一时间中,只有单一指令被运行(processor level: 比较微处理器,CISC, 和RISC,即流水线Pipeline的概念,以及后来在Pipeline基础上以提高指令处理效率为目的的硬件及软件发展,比如branch-prediction, 比如forwarding,比如在每个运算单元前的指令堆栈,汇编程序员对programm code的顺序改写)。并行运算采用了多个运算单元,同时运行,以解决问题。

相对于串行计算,并行计算可以划分成时间并行和空间并行。时间并行即指令流水化,空间并行使用多个处理器执行并发计算,当前研究的主要是空间的并行问题。以程序和算法设计人员的角度看,并行计算又可分为数据并行和任务并行。数据并行把大的任务化解成若干个相同的子任务,处理起来比任务并行简单。

空间上的并行导致两类并行机的产生,按照麦克·弗莱因(Michael Flynn)的说法分为单指令流多数据流(SIMD)和多指令流多数据流(MIMD),而常用的串行机也称为单指令流单数据流(SISD)。MIMD类的机器又可分为常见的五类:并行向量处理机(PVP)、对称多处理机(SMP)、大规模并行处理机(MPP)、工作站机群(COW)、分布式共享存储处理机(DSM)。

并行计算机有以下五种访存模型:均匀访存模型(UMA)、非均匀访存模型(NUMA)、全高速缓存访存模型(COMA)、一致性高速缓存非均匀存储访问模型(CC-NUMA)和非远程存储访问模型(NORMA)。

不像串行计算机那样,主流使用冯·诺伊曼的计算模型,并行计算机没有一个统一的计算模型。不过,人们已经提出了几种有价值的参考模型:PRAM模型,BSP模型,LogP模型,C^3模型等。

并行计算机是靠网络将各个处理机或处理器连接起来的,一般来说有以下几种方式

网络的基本术语:

并行算法是一门还没有发展成熟的学科,虽然人们已经总结出了相当多的经验,但是远远不及串行算法那样丰富。并行算法设计中最常用的的方法是PCAM方法,即划分,通信,组合,映射。首先划分,就是将一个问题平均划分成若干份,并让各个处理器去同时执行;通信阶段,就是要分析执行过程中所要交换的数据和任务的协调情况,而组合则是要求将较小的问题组合到一起以提高性能和减少任务开销,映射则是要将任务分配到每一个处理器上。总之,并行算法还需要相当多完善的地方。并行算法与串行算法最大的不同之处在于,并行算法不仅要考虑问题本身,而且还要考虑所使用的并行模型,网络连接等等。

相关

  • 碱基对碱基对是形成核酸DNA、RNA单体以及编码遗传信息的化学结构。组成碱基对的碱基包括腺嘌呤(A)、胸腺嘧啶(T)、鸟嘌呤(G)、胞嘧啶(C)、尿嘧啶(U)。在DNA或某些双链RNA分子结构中,由于碱基
  • 蒙罗维亚蒙罗维亚(英语:Monrovia /mənˈroʊviə/)或译门罗维亚,是西部非洲利比里亚共和国的首都,同时也是利比里亚最大的城市。由于连年内战,导致该市市容破败。该市经济主要依赖其港口,
  • abbr class=abbr title=R24: 与皮肤接触将导致中毒R24/abbr警示性质标准词(英语:Risk Phrases,简写:R-phrases)是于《欧联指导标准67/548/EEC 附录III: 有关危险物品与其储备的特殊风险性质》里定义。该列表被集中并再出版于指导标准2001/
  • 香水味《香水味》(英语:Perfume),是美国女歌手布兰妮·斯皮尔斯的第8张录音室专辑《劲舞布兰妮》中的第2支单曲。由布兰妮、Chris Braide和Sia Furler共同创作,并由will.i.am、Chris Br
  • 维持和平联合国维持和平部队(英语:United Nations Peacekeeping Force)简称联合国维和部队,指由大会或联合国安全理事会至少需九票赞成(必须包括五个常任理事国)核准部署并决定其任务授权
  • secondary prevention人体解剖学 - 人体生理学 组织学 - 胚胎学 人体寄生虫学 - 免疫学 病理学 - 病理生理学 细胞学 - 营养学 流行病学 - 药理学 - 毒理学预防医学是指以预防疾病的发生,来代替
  • 吴 旻吴旻(1925年12月-2017年10月16日),江苏常州人,中国肿瘤遗传学家。1950年毕业于同济大学医学院。1961年获苏联医学科学院医学科学博士学位。北京协和医科大学、中国医学科学院教授
  • 伦敦制作室伦敦摄影棚(The London Studios),又称南岸摄影棚(The South Bank Studios)或伦敦电视中心(The London Television Centre),是位于伦敦市中心滑铁卢的一座电视大楼,由伦敦周末电视所有
  • 克莱蒙研究大学克莱蒙特研究大学(Claremont Graduate University)简称CGU,是一座位于美国加利福尼亚州克莱蒙特市的研究型大学,也是一所专门提供研究生及以上级别课程的私立精英级大学。该校是
  • FT中文网《金融时报》(英语:Financial Times,简称FT),是一份以英语发行,财经报导为主,总部位于英国伦敦,由位于日本东京的日本经济新闻百分之百控股,平均每日发行量约为35万份,含电子版订阅人