并行计算

✍ dations ◷ 2024-09-20 12:13:52 #计算机科学,理论计算机科学,并发计算,分布式计算

并行计算(英语:parallel computing)一般是指许多指令得以同时进行的计算模式。在同时进行的前提下,可以将计算的过程分解成小部分,之后以并发方式来加以解决。

电脑软件可以被分成数个运算步骤来运行。为了解决某个特定问题,软件采用某个算法,以一连串指令运行来完成。传统上,这些指令都被送至单一的中央处理器,以循序方式运行完成。在这种处理方式下,单一时间中,只有单一指令被运行(processor level: 比较微处理器,CISC, 和RISC,即流水线Pipeline的概念,以及后来在Pipeline基础上以提高指令处理效率为目的的硬件及软件发展,比如branch-prediction, 比如forwarding,比如在每个运算单元前的指令堆栈,汇编程序员对programm code的顺序改写)。并行运算采用了多个运算单元,同时运行,以解决问题。

相对于串行计算,并行计算可以划分成时间并行和空间并行。时间并行即指令流水化,空间并行使用多个处理器执行并发计算,当前研究的主要是空间的并行问题。以程序和算法设计人员的角度看,并行计算又可分为数据并行和任务并行。数据并行把大的任务化解成若干个相同的子任务,处理起来比任务并行简单。

空间上的并行导致两类并行机的产生,按照麦克·弗莱因(Michael Flynn)的说法分为单指令流多数据流(SIMD)和多指令流多数据流(MIMD),而常用的串行机也称为单指令流单数据流(SISD)。MIMD类的机器又可分为常见的五类:并行向量处理机(PVP)、对称多处理机(SMP)、大规模并行处理机(MPP)、工作站机群(COW)、分布式共享存储处理机(DSM)。

并行计算机有以下五种访存模型:均匀访存模型(UMA)、非均匀访存模型(NUMA)、全高速缓存访存模型(COMA)、一致性高速缓存非均匀存储访问模型(CC-NUMA)和非远程存储访问模型(NORMA)。

不像串行计算机那样,主流使用冯·诺伊曼的计算模型,并行计算机没有一个统一的计算模型。不过,人们已经提出了几种有价值的参考模型:PRAM模型,BSP模型,LogP模型,C^3模型等。

并行计算机是靠网络将各个处理机或处理器连接起来的,一般来说有以下几种方式

网络的基本术语:

并行算法是一门还没有发展成熟的学科,虽然人们已经总结出了相当多的经验,但是远远不及串行算法那样丰富。并行算法设计中最常用的的方法是PCAM方法,即划分,通信,组合,映射。首先划分,就是将一个问题平均划分成若干份,并让各个处理器去同时执行;通信阶段,就是要分析执行过程中所要交换的数据和任务的协调情况,而组合则是要求将较小的问题组合到一起以提高性能和减少任务开销,映射则是要将任务分配到每一个处理器上。总之,并行算法还需要相当多完善的地方。并行算法与串行算法最大的不同之处在于,并行算法不仅要考虑问题本身,而且还要考虑所使用的并行模型,网络连接等等。

相关

  • 费拉芦荟费拉芦荟(学名:Aloe vera)是芦荟属下的一种多肉植物。又名翠叶芦荟、洋芦荟、吉拉索芦荟、库拉索芦荟或美国芦荟,芦荟属广泛分布于全世界的热带及亚热带,包含高海拔、海岸、沙漠
  • 反科学反科学是一种反对科学以及科学方法的理念。持有反科学观点的人认为科学并不能作为一种寻找普遍知识的客观方法。他们尤其会认为化约主义在面对这么一个复杂的世界时是非常受
  • 甲胄鱼类甲胄鱼(学名:Ostracoderms),又名介皮类,是已灭绝的一类没有下颚的原始鱼类,其身上有骨质的甲板覆盖。它们的化石在奥陶纪至泥盆纪地层都有发现。它们是栖于水底的动物。甲胄鱼是最
  • 西日耳曼语支西日耳曼语支是日耳曼语族中最大的一支,包括德语、英语,还包括荷语、南非语和弗里西语。日耳曼语族其他的分支尚有北日耳曼语支和东日耳曼语支。西日耳曼语支下面有各种分支语
  • 假精确假精确(false precision),又称过度精确(overprecision)、不当精确(misplaced precision),是一种非形式谬误,系在呈现数值资料时,使用了不符实情的过度精确数值。说明:化石的年龄一般是
  • 园艺植物园艺植物指为了装饰而种植在花园、庭院或室内的可供观赏的植物。园艺植物的种植和培育是园艺学的重要组成部分。大多数的小型园艺植物的种植是出于美学的目的,如花卉、大叶植
  • 大气科学大气物理学 大气力学(英语:Synoptic scale meteorology)天气 (分类) · (主题)气候 (分类) 气候变迁 (分类)大气科学研究[[大汽”的结构、组成、物理现象、化学反应、运动规律
  • 肺吸虫卫氏肺吸虫(学名:Paragonimus westermani,又译卫氏并殖吸虫)为斜睾目住胞科并殖属的动物。是一种扁平似似咖啡豆的寄生虫,是肺吸虫症致病原中最重要者,必须透过数种中间宿主才能感
  • 思乐康喹硫平(Quetiapine),由阿斯利康制药商品名为思乐康、思瑞康(Seroquel),而由奥利昂集团(Orion Pharma)商品名为Ketipinor,两者都是富马酸喹硫平盐的药物,是非典型的抗精神病用药,主要治
  • 谢尔顿坐标:41°18′15″N 73°08′17″W / 41.30417°N 73.13806°W / 41.30417; -73.13806谢尔顿(英语:Shelton)是美国康乃狄克州费尔菲尔德县的一个城市。面积82.6平方公里。根据美