并行计算

✍ dations ◷ 2025-11-15 20:48:26 #计算机科学,理论计算机科学,并发计算,分布式计算

并行计算(英语:parallel computing)一般是指许多指令得以同时进行的计算模式。在同时进行的前提下,可以将计算的过程分解成小部分,之后以并发方式来加以解决。

电脑软件可以被分成数个运算步骤来运行。为了解决某个特定问题,软件采用某个算法,以一连串指令运行来完成。传统上,这些指令都被送至单一的中央处理器,以循序方式运行完成。在这种处理方式下,单一时间中,只有单一指令被运行(processor level: 比较微处理器,CISC, 和RISC,即流水线Pipeline的概念,以及后来在Pipeline基础上以提高指令处理效率为目的的硬件及软件发展,比如branch-prediction, 比如forwarding,比如在每个运算单元前的指令堆栈,汇编程序员对programm code的顺序改写)。并行运算采用了多个运算单元,同时运行,以解决问题。

相对于串行计算,并行计算可以划分成时间并行和空间并行。时间并行即指令流水化,空间并行使用多个处理器执行并发计算,当前研究的主要是空间的并行问题。以程序和算法设计人员的角度看,并行计算又可分为数据并行和任务并行。数据并行把大的任务化解成若干个相同的子任务,处理起来比任务并行简单。

空间上的并行导致两类并行机的产生,按照麦克·弗莱因(Michael Flynn)的说法分为单指令流多数据流(SIMD)和多指令流多数据流(MIMD),而常用的串行机也称为单指令流单数据流(SISD)。MIMD类的机器又可分为常见的五类:并行向量处理机(PVP)、对称多处理机(SMP)、大规模并行处理机(MPP)、工作站机群(COW)、分布式共享存储处理机(DSM)。

并行计算机有以下五种访存模型:均匀访存模型(UMA)、非均匀访存模型(NUMA)、全高速缓存访存模型(COMA)、一致性高速缓存非均匀存储访问模型(CC-NUMA)和非远程存储访问模型(NORMA)。

不像串行计算机那样,主流使用冯·诺伊曼的计算模型,并行计算机没有一个统一的计算模型。不过,人们已经提出了几种有价值的参考模型:PRAM模型,BSP模型,LogP模型,C^3模型等。

并行计算机是靠网络将各个处理机或处理器连接起来的,一般来说有以下几种方式

网络的基本术语:

并行算法是一门还没有发展成熟的学科,虽然人们已经总结出了相当多的经验,但是远远不及串行算法那样丰富。并行算法设计中最常用的的方法是PCAM方法,即划分,通信,组合,映射。首先划分,就是将一个问题平均划分成若干份,并让各个处理器去同时执行;通信阶段,就是要分析执行过程中所要交换的数据和任务的协调情况,而组合则是要求将较小的问题组合到一起以提高性能和减少任务开销,映射则是要将任务分配到每一个处理器上。总之,并行算法还需要相当多完善的地方。并行算法与串行算法最大的不同之处在于,并行算法不仅要考虑问题本身,而且还要考虑所使用的并行模型,网络连接等等。

相关

  • 石川啄木石川啄木(1886年2月20日-1912年4月13日),日本明治时代诗人、小说家与评论家,本名为石川一,别号白萍。石川啄木出生于日本岩手县南岩手郡日户村(现盛冈市日户),出身贫苦;曾任小学教师、
  • 血液透析血液透析(英语:Hemodialysis),是将血液抽出体外,经过血液透析机的渗透膜,清除血液中的新陈代谢废物和杂质后,再将已净化的血液输送回体内,俗称“洗肾”及“洗血”。血液透析可用于肾
  • 下颚颔(又称下巴、下颔、下巴颏),是位于脊椎动物包括人类面部嘴唇以下的部位,人到年老时下巴会逐渐萎缩,这是老化现象的一个过程。
  • 北亚哥曼古须塔屋·北亚哥曼(Gustav Bergmann,1906年5月4日-1987年4月21日),奥地利犹太裔哲学家,维也纳圈成员之一,主要贡献为本体论。
  • 佐治亚州立大学佐治亚州立大学(英语:Georgia State University,简称:GSU)是位于乔治亚州亚特兰大的一间大学,创立于1913年。现有三万名学生,是拥有35间学院和大学的佐治亚大学系统中的第二大之大
  • 群信行动数字科技坐标:25°04′43.7″N 121°33′53.6″E / 25.078806°N 121.564889°E / 25.078806; 121.564889群信行动数位科技股份有限公司(简称群信、群信行动、群信行动数位科技)(Allianc
  • 吕宋岛37,870人217,000人伤亡(1944年-45年)吕宋岛战役是第二次世界大战太平洋战争中美国及菲律宾联军的登陆战役,以消灭岛上的日本帝国军队,战役结果是美国和菲律宾联军获胜,盟军在3
  • 肖恩·康纳利托马斯·肖恩·康纳利爵士(Sir Thomas Sean Connery ,1930年8月25日-),是一位获得过奥斯卡金像奖的苏格兰演员,以出演詹姆斯·邦德著名。康纳利以其标志性的苏格兰口音和英俊的外
  • 扬·伊利埃斯库扬·伊利埃斯库(罗马尼亚语:Ion Iliescu,1930年3月3日-),罗马尼亚政治家,罗马尼亚社会民主党成员,曾任罗马尼亚救国阵线(英语:National Salvation Front (Romania))委员会主席、罗马尼
  • 新乡医学院坐标:35°13′N 113°30′E / 35.21°N 113.50°E / 35.21; 113.50新乡医学院位于太行山麓、黄河之滨的河南省新乡市红旗区金穗大道东段,是河南省属普通本科院校,也是河南省唯