平行运算

✍ dations ◷ 2025-06-06 22:24:49 #平行运算
并行计算(英语:parallel computing)一般是指许多指令得以同时进行的计算模式。在同时进行的前提下,可以将计算的过程分解成小部分,之后以并发方式来加以解决。电脑软件可以被分成数个运算步骤来运行。为了解决某个特定问题,软件采用某个算法,以一连串指令运行来完成。传统上,这些指令都被送至单一的中央处理器,以循序方式运行完成。在这种处理方式下,单一时间中,只有单一指令被运行(processor level: 比较微处理器,CISC, 和RISC,即流水线Pipeline的概念,以及后来在Pipeline基础上以提高指令处理效率为目的的硬件及软件发展,比如branch-prediction, 比如forwarding,比如在每个运算单元前的指令堆栈,汇编程序员对programm code的顺序改写)。并行运算采用了多个运算单元,同时运行,以解决问题。相对于串行计算,并行计算可以划分成时间并行和空间并行。时间并行即指令流水化,空间并行使用多个处理器执行并发计算,当前研究的主要是空间的并行问题。以程序和算法设计人员的角度看,并行计算又可分为数据并行和任务并行。数据并行把大的任务化解成若干个相同的子任务,处理起来比任务并行简单。空间上的并行导致两类并行机的产生,按照麦克·弗莱因(Michael Flynn)的说法分为单指令流多数据流(SIMD)和多指令流多数据流(MIMD),而常用的串行机也称为单指令流单数据流(SISD)。MIMD类的机器又可分为常见的五类:并行向量处理机(PVP)、对称多处理机(SMP)、大规模并行处理机(MPP)、工作站机群(COW)、分布式共享存储处理机(DSM)。并行计算机有以下五种访存模型:均匀访存模型(UMA)、非均匀访存模型(NUMA)、全高速缓存访存模型(COMA)、一致性高速缓存非均匀存储访问模型(CC-NUMA)和非远程存储访问模型(NORMA)。不像串行计算机那样,主流使用冯·诺伊曼的计算模型,并行计算机没有一个统一的计算模型。不过,人们已经提出了几种有价值的参考模型:PRAM模型,BSP模型,LogP模型,C^3模型等。并行计算机是靠网络将各个处理机或处理器连接起来的,一般来说有以下几种方式网络的基本术语:并行算法是一门还没有发展成熟的学科,虽然人们已经总结出了相当多的经验,但是远远不及串行算法那样丰富。并行算法设计中最常用的的方法是PCAM方法,即划分,通信,组合,映射。首先划分,就是将一个问题平均划分成若干份,并让各个处理器去同时执行;通信阶段,就是要分析执行过程中所要交换的数据和任务的协调情况,而组合则是要求将较小的问题组合到一起以提高性能和减少任务开销,映射则是要将任务分配到每一个处理器上。总之,并行算法还需要相当多完善的地方。 并行算法与串行算法最大的不同之处在于,并行算法不仅要考虑问题本身,而且还要考虑所使用的并行模型,网络连接等等。

相关

  • 酵母亚门酵母亚门是子囊菌门中最低级的菌种,只有单细胞,通常单生,有明显的细胞壁和细胞核,有时数个细胞连成串,形成拟菌丝,以出芽的方式繁殖,芽脱落后就形成新个体,没有子囊果。酵母亚门只包
  • 共祖共同起源(英语:Common descent)是指一群生物体拥有最近共同祖先的情况。所有地球上的生命都源于最后共同祖先或最后共同祖先基因池。在演化生物学中,一群生物的某个共有的性状如
  • 替米考星替米考星(英语:Tilmicosin)是一种由泰乐菌素半合成的大环内酯类药物,为动物专用抗生素。替米考星的化学名称为4A-O-脱(2,6-二脱氧-3-C-甲基-L-核糖-吡喃己基)-20-脱氧-20-(3,5-
  • 失读症失读症(英语:Dyslexia、reading disorder、alexia),或称阅读障碍,是描述在智力无缺损的状况下,对于阅读和书写文字具有困难的症状。症状的严重程度因人而异。其他的症状包括难以拼
  • 桥粒桥粒(英语:desmosome,亦称为胞桥小体、细胞膜吸著部或桥体)是一种相邻细胞之间连接的结构。根据桥粒连接形态,可分为点状桥粒、带状桥粒和半桥粒。桥粒是细胞连接的一种。桥粒有
  • 甲苯胺甲苯胺(英语:Toluidine)是一类芳香胺,属于二取代苯,化学式C7H9N,分子式CH3C6H4NH2,包括邻甲苯胺(2-甲基苯胺)、间甲苯胺(3-甲基苯胺)和对甲苯胺(4-甲基苯胺)。它们分子量为107.16,不溶或微
  • 汉斯·贝特汉斯·阿尔布雷希特·贝特(德语:Hans Albrecht Bethe,1906年7月2日-2005年3月6日),德国和美国犹太裔核物理学家,对于天体物理学,量子电动力学和固体物理学有很重要的贡献。由于恒星
  • 自身调节自身调节(Autoregulation)是一个生物系统中广泛存在的过程,是生物体应对刺激的内在适应机制的工作结果。在人体中,肾脏、心脏,以及大脑等器官都存在自身调节机制。脑血流自身调节
  • 纳豆纳豆是日本常见的传统发酵食品,由黄豆通过Bacillus subtilis natto(枯草杆菌亚种之一)借由菌种发酵所释放的酵素转化蒸煮过黄豆的营养成分所制成的豆制品,气味浓烈,有黏性,不仅保
  • 全泌腺腺体的分泌可依据其所含的细胞产物或耗用腺体细胞的多少部分来分类。腺体释出含分泌产物并崩毁整个细胞,此种称为全泌腺(holocrine gland),可释出充满分泌物的整个细胞,例如皮