并行计算

✍ dations ◷ 2025-05-19 12:48:30 #计算机科学,理论计算机科学,并发计算,分布式计算

并行计算(英语:parallel computing)一般是指许多指令得以同时进行的计算模式。在同时进行的前提下,可以将计算的过程分解成小部分,之后以并发方式来加以解决。

电脑软件可以被分成数个运算步骤来运行。为了解决某个特定问题,软件采用某个算法,以一连串指令运行来完成。传统上,这些指令都被送至单一的中央处理器,以循序方式运行完成。在这种处理方式下,单一时间中,只有单一指令被运行(processor level: 比较微处理器,CISC, 和RISC,即流水线Pipeline的概念,以及后来在Pipeline基础上以提高指令处理效率为目的的硬件及软件发展,比如branch-prediction, 比如forwarding,比如在每个运算单元前的指令堆栈,汇编程序员对programm code的顺序改写)。并行运算采用了多个运算单元,同时运行,以解决问题。

相对于串行计算,并行计算可以划分成时间并行和空间并行。时间并行即指令流水化,空间并行使用多个处理器执行并发计算,当前研究的主要是空间的并行问题。以程序和算法设计人员的角度看,并行计算又可分为数据并行和任务并行。数据并行把大的任务化解成若干个相同的子任务,处理起来比任务并行简单。

空间上的并行导致两类并行机的产生,按照麦克·弗莱因(Michael Flynn)的说法分为单指令流多数据流(SIMD)和多指令流多数据流(MIMD),而常用的串行机也称为单指令流单数据流(SISD)。MIMD类的机器又可分为常见的五类:并行向量处理机(PVP)、对称多处理机(SMP)、大规模并行处理机(MPP)、工作站机群(COW)、分布式共享存储处理机(DSM)。

并行计算机有以下五种访存模型:均匀访存模型(UMA)、非均匀访存模型(NUMA)、全高速缓存访存模型(COMA)、一致性高速缓存非均匀存储访问模型(CC-NUMA)和非远程存储访问模型(NORMA)。

不像串行计算机那样,主流使用冯·诺伊曼的计算模型,并行计算机没有一个统一的计算模型。不过,人们已经提出了几种有价值的参考模型:PRAM模型,BSP模型,LogP模型,C^3模型等。

并行计算机是靠网络将各个处理机或处理器连接起来的,一般来说有以下几种方式

网络的基本术语:

并行算法是一门还没有发展成熟的学科,虽然人们已经总结出了相当多的经验,但是远远不及串行算法那样丰富。并行算法设计中最常用的的方法是PCAM方法,即划分,通信,组合,映射。首先划分,就是将一个问题平均划分成若干份,并让各个处理器去同时执行;通信阶段,就是要分析执行过程中所要交换的数据和任务的协调情况,而组合则是要求将较小的问题组合到一起以提高性能和减少任务开销,映射则是要将任务分配到每一个处理器上。总之,并行算法还需要相当多完善的地方。并行算法与串行算法最大的不同之处在于,并行算法不仅要考虑问题本身,而且还要考虑所使用的并行模型,网络连接等等。

相关

  • 肺结核结核病(Tuberculosis,又称TB)为结核杆菌感染引起的疾病。结核通常造成肺部感染,也会感染身体的其他部分。大多数感染者没有症状,此型态感染称为潜伏结核感染(英语:Latent tuberculo
  • 乙酰乙酰基(英语:Acetyl),化学式为
  • Ersub2/subOsub3/sub氧化铒,化学式为Er2O3。粉红色粉末,不溶于水,可溶于酸:硫酸铒或硝酸铒溶液与氢氧化物溶液作用沉淀出氢氧化铒或其碱性盐,经分离、灼烧制得氧化铒。用作核反应堆的控制材料、钇铁
  • 奈姆蒂姆萨夫一世奈姆蒂姆萨夫一世(Merenre Nemtyemsaf I)(或译为麦伦拉一世、莫润尔一世)是埃及第六王朝第四位法老,在位超过10年。早期学者相信他即位前曾与其父佩皮一世共同执政短时间。1995年
  • 好撒马利亚人仁慈的撒马利亚人的比喻(英语:Parable of the Good Samaritan)是基督教文化中一个很著名的成语和口头语,意为:好心人、见义勇为者。它来源于《路加福音》第10章第25-37节中耶稣讲
  • 渐冻症肌萎缩性脊髓侧索硬化症(英语:Amyotrophic lateral sclerosis,缩写为 ALS),也称为肌萎缩侧索硬化症,有时也称为卢·贾里格症(英语:Lou Gehrig's disease)、渐冻人症、运动神经元病,是
  • 碧绿色,又称海水蓝(英语:Aquamarine),是一种介乎绿色和深蓝之间的颜色,为青色的一种。在英语等欧洲语言中,因这种颜色接近矿物海蓝宝石而命名。蓝绿色也是代表加拿大政党魁北克联邦
  • 杀草强3-氨基-1,2,4-三唑是一种有机化合物,化学式为C2H4N4。3-氨基-1,2,4-三唑可由hydrazinecarboximida​mide(CAS:79-17-4)在酸中或其碳酸酯(CAS:2582-30-1)在水中加热反应得到。
  • 杰克·李奇杰克·李奇(英语:Jack Reacher),英国小说家李·查德笔下系列小说(英语:Jack Reacher (book series))的人物,也是神隐任务系列电影主角,首次出现于《地狱蓝调》这本小说。一名虚构的退
  • 南极毛皮海狮(A. gazella)南极毛皮海狮(学名:Arctocephalus gazella)又叫南极海狗,主要分布于南极洲水域,其中约95%生活在南乔治亚岛和南桑威奇群岛。它的学名来源于第一艘捕捉到它的德国船SMS Gazelle。