并行计算

✍ dations ◷ 2025-10-16 20:57:26 #计算机科学,理论计算机科学,并发计算,分布式计算

并行计算(英语:parallel computing)一般是指许多指令得以同时进行的计算模式。在同时进行的前提下,可以将计算的过程分解成小部分,之后以并发方式来加以解决。

电脑软件可以被分成数个运算步骤来运行。为了解决某个特定问题,软件采用某个算法,以一连串指令运行来完成。传统上,这些指令都被送至单一的中央处理器,以循序方式运行完成。在这种处理方式下,单一时间中,只有单一指令被运行(processor level: 比较微处理器,CISC, 和RISC,即流水线Pipeline的概念,以及后来在Pipeline基础上以提高指令处理效率为目的的硬件及软件发展,比如branch-prediction, 比如forwarding,比如在每个运算单元前的指令堆栈,汇编程序员对programm code的顺序改写)。并行运算采用了多个运算单元,同时运行,以解决问题。

相对于串行计算,并行计算可以划分成时间并行和空间并行。时间并行即指令流水化,空间并行使用多个处理器执行并发计算,当前研究的主要是空间的并行问题。以程序和算法设计人员的角度看,并行计算又可分为数据并行和任务并行。数据并行把大的任务化解成若干个相同的子任务,处理起来比任务并行简单。

空间上的并行导致两类并行机的产生,按照麦克·弗莱因(Michael Flynn)的说法分为单指令流多数据流(SIMD)和多指令流多数据流(MIMD),而常用的串行机也称为单指令流单数据流(SISD)。MIMD类的机器又可分为常见的五类:并行向量处理机(PVP)、对称多处理机(SMP)、大规模并行处理机(MPP)、工作站机群(COW)、分布式共享存储处理机(DSM)。

并行计算机有以下五种访存模型:均匀访存模型(UMA)、非均匀访存模型(NUMA)、全高速缓存访存模型(COMA)、一致性高速缓存非均匀存储访问模型(CC-NUMA)和非远程存储访问模型(NORMA)。

不像串行计算机那样,主流使用冯·诺伊曼的计算模型,并行计算机没有一个统一的计算模型。不过,人们已经提出了几种有价值的参考模型:PRAM模型,BSP模型,LogP模型,C^3模型等。

并行计算机是靠网络将各个处理机或处理器连接起来的,一般来说有以下几种方式

网络的基本术语:

并行算法是一门还没有发展成熟的学科,虽然人们已经总结出了相当多的经验,但是远远不及串行算法那样丰富。并行算法设计中最常用的的方法是PCAM方法,即划分,通信,组合,映射。首先划分,就是将一个问题平均划分成若干份,并让各个处理器去同时执行;通信阶段,就是要分析执行过程中所要交换的数据和任务的协调情况,而组合则是要求将较小的问题组合到一起以提高性能和减少任务开销,映射则是要将任务分配到每一个处理器上。总之,并行算法还需要相当多完善的地方。并行算法与串行算法最大的不同之处在于,并行算法不仅要考虑问题本身,而且还要考虑所使用的并行模型,网络连接等等。

相关

  • 操作定义操作定义(operational definition)是指将一些事物如变量、术语与客体等以某种操作的方式表示出来。操作定义与概念型定义(英语:conceptual definition)相区别,强调确立事物特征时
  • 碳1212C是质量数为12的碳原子,其质子数和中子数都为6,它是碳元素的一种同位素,在世界现存碳元素中占比98.89%,是最常见的碳同位素。在2019年5月20日国际单位制基本单位的重新定义之
  • 百悔经《百悔经》,福建人刘乙撰。《清异录》载:“闽士刘乙尝乘醉与人争妓女,既醒惭悔,集书籍凡因饮酒致失贾祸者编以自警,题曰《百悔经》。自后不饮,至于终身。”
  • 埃文斯马丁·约翰·埃文斯爵士(英语:Sir Martin John Evans,1941年1月1日-),英国科学家,2007年诺贝尔生理学或医学奖获得者之一。1963年毕业于剑桥大学并在1969于伦敦大学学院获得博士学
  • 拍号在乐谱中,表示拍子的记号,叫做拍号。分子表示每小节中单位拍的数目,分母表示单位拍的音符时值。拍号以分数的形式写出(但正统五线谱书写是不写中间的分线,数字简谱则有时例外),分数
  • 波兰国家银行波兰国家银行(波兰语:Narodowy Bank Polski; NBP)是波兰的中央银行。波兰国家银行总部位于华沙,是波兰兹罗提的发行单位。波兰在历史上曾有过两家中央银行,分别成立于波兰会议王
  • 玫瑰金玫瑰金是一种金与铜的贵金属合金,由于颜色艳丽且硬度高于纯金、延展性强,而被用于首饰制造,又被称为粉金、红金和紫金。由于其在19世纪初的俄国被广泛使用,因此也被称为俄罗斯金
  • 钻石吧钻石岗(英语:Diamond Bar)中文又音译为戴蒙德吧,是位于美国加州洛杉矶县郊外的一个城市。“钻石岗”这个名字源于Frederick E. Lewis所注册的钢铁品牌“diamond over a bar”。
  • 1947年国防法1947年国家安全法案(英语:National Security Act of 1947)是第二次世界大战后美国政府在军事和情报体系做出的重大战略调整。该法案由第80届国会制定,1947年3月3日,时任参议院军
  • 华尔街站华尔街车站(英语:Wall Street station)是纽约地铁IRT百老汇-第七大道线一个地铁站,位于曼哈顿金融区华尔街及威廉街交界,设有2号线(仅平日和平日深夜停站)与3号线(仅平日停站)列车服