并行计算

✍ dations ◷ 2025-12-09 21:07:37 #计算机科学,理论计算机科学,并发计算,分布式计算

并行计算(英语:parallel computing)一般是指许多指令得以同时进行的计算模式。在同时进行的前提下,可以将计算的过程分解成小部分,之后以并发方式来加以解决。

电脑软件可以被分成数个运算步骤来运行。为了解决某个特定问题,软件采用某个算法,以一连串指令运行来完成。传统上,这些指令都被送至单一的中央处理器,以循序方式运行完成。在这种处理方式下,单一时间中,只有单一指令被运行(processor level: 比较微处理器,CISC, 和RISC,即流水线Pipeline的概念,以及后来在Pipeline基础上以提高指令处理效率为目的的硬件及软件发展,比如branch-prediction, 比如forwarding,比如在每个运算单元前的指令堆栈,汇编程序员对programm code的顺序改写)。并行运算采用了多个运算单元,同时运行,以解决问题。

相对于串行计算,并行计算可以划分成时间并行和空间并行。时间并行即指令流水化,空间并行使用多个处理器执行并发计算,当前研究的主要是空间的并行问题。以程序和算法设计人员的角度看,并行计算又可分为数据并行和任务并行。数据并行把大的任务化解成若干个相同的子任务,处理起来比任务并行简单。

空间上的并行导致两类并行机的产生,按照麦克·弗莱因(Michael Flynn)的说法分为单指令流多数据流(SIMD)和多指令流多数据流(MIMD),而常用的串行机也称为单指令流单数据流(SISD)。MIMD类的机器又可分为常见的五类:并行向量处理机(PVP)、对称多处理机(SMP)、大规模并行处理机(MPP)、工作站机群(COW)、分布式共享存储处理机(DSM)。

并行计算机有以下五种访存模型:均匀访存模型(UMA)、非均匀访存模型(NUMA)、全高速缓存访存模型(COMA)、一致性高速缓存非均匀存储访问模型(CC-NUMA)和非远程存储访问模型(NORMA)。

不像串行计算机那样,主流使用冯·诺伊曼的计算模型,并行计算机没有一个统一的计算模型。不过,人们已经提出了几种有价值的参考模型:PRAM模型,BSP模型,LogP模型,C^3模型等。

并行计算机是靠网络将各个处理机或处理器连接起来的,一般来说有以下几种方式

网络的基本术语:

并行算法是一门还没有发展成熟的学科,虽然人们已经总结出了相当多的经验,但是远远不及串行算法那样丰富。并行算法设计中最常用的的方法是PCAM方法,即划分,通信,组合,映射。首先划分,就是将一个问题平均划分成若干份,并让各个处理器去同时执行;通信阶段,就是要分析执行过程中所要交换的数据和任务的协调情况,而组合则是要求将较小的问题组合到一起以提高性能和减少任务开销,映射则是要将任务分配到每一个处理器上。总之,并行算法还需要相当多完善的地方。并行算法与串行算法最大的不同之处在于,并行算法不仅要考虑问题本身,而且还要考虑所使用的并行模型,网络连接等等。

相关

  • 毒性毒性(英语:Toxicity)是毒物的化学分子或化合物到达生物敏感部位引起机体损害的能力。毒物的联合作用有以下四种:协同作用、相加作用、独立作用和拮抗作用。
  • 国会议会是立法机关的一种型态,由人民中选出一定数量的代表者组成以执行立法权;这些代表者称为议员,可以透过直接选举或间接选举产生、也可能是委任的。议会常用来指称民主国家的立
  • 基督教文化基督教文化(英语:Christian culture)是信仰基督教为主的人群长期以来形成的一种文化,并构成了基督教文明(Christian civilization)的主体。基督教源于中东地区游牧民族以色列人的
  • 同量素同量素是质量数相同,但质子数不同的原子核。同量素必然是不同的元素。例:Cu (原子序29) 和 Zn (原子序30) 具有质量数同为65的同量素。 理论上,两个以上的同量素不会都是稳定的
  • 2000年第22次美国人口普查是由美国人口调查局进行的。通过普查,美国截至2000年4月1日共有居民281,421,906人,比1990年人口普查时的248,709,873人增加13.2%。美国的居民人口包括50个
  • 伊波利托·伊里戈延胡安·伊波利托·德尔萨格拉多·科拉松·德·赫苏斯·伊里戈延·阿莱姆(Juan Hipólito del Sagrado Corazón de Jesús Yrigoyen Alem,1852年7月12日-1933年7月3日),阿根廷政治
  • 曼宁丹尼尔·里卡多·曼宁(英语:Daniel Ricardo Manning,1966年5月17日-),美国前NBA篮球运动员,场上位置为小前锋,其父埃德·曼宁(英语:Ed Manning)也曾是NBA球员。曼宁是堪萨斯大学篮球史
  • 美国社会问题美国创造了历史上最庞大的经济体之一,不过是用一种与其他发达国家不同的方式来达成的。造成这种结果的社会与政治原因有:自利的价值观、保守的选民、分赃制度的影响与联邦体制
  • 景芝景芝酒业,全称山东景芝酒业股份有限公司(英语:Shandong Jingzhi Liquor Co.,Ltd),原名山东景芝酒厂,是中国的一家酿酒公司,总部位于山东省潍坊市安丘市景芝镇。酒厂所在地潍坊“景
  • 2019冠状病毒病佛得角疫情2019冠状病毒病佛得角疫情,介绍在2019冠状病毒病疫情中,在佛得角发生的情况。 2020年3月20日,该国首例新冠肺炎病例得到确认,病人是62岁的英国人。 3月21日又新增两例确诊病例,两