并行计算

✍ dations ◷ 2025-12-10 22:00:12 #计算机科学,理论计算机科学,并发计算,分布式计算

并行计算(英语:parallel computing)一般是指许多指令得以同时进行的计算模式。在同时进行的前提下,可以将计算的过程分解成小部分,之后以并发方式来加以解决。

电脑软件可以被分成数个运算步骤来运行。为了解决某个特定问题,软件采用某个算法,以一连串指令运行来完成。传统上,这些指令都被送至单一的中央处理器,以循序方式运行完成。在这种处理方式下,单一时间中,只有单一指令被运行(processor level: 比较微处理器,CISC, 和RISC,即流水线Pipeline的概念,以及后来在Pipeline基础上以提高指令处理效率为目的的硬件及软件发展,比如branch-prediction, 比如forwarding,比如在每个运算单元前的指令堆栈,汇编程序员对programm code的顺序改写)。并行运算采用了多个运算单元,同时运行,以解决问题。

相对于串行计算,并行计算可以划分成时间并行和空间并行。时间并行即指令流水化,空间并行使用多个处理器执行并发计算,当前研究的主要是空间的并行问题。以程序和算法设计人员的角度看,并行计算又可分为数据并行和任务并行。数据并行把大的任务化解成若干个相同的子任务,处理起来比任务并行简单。

空间上的并行导致两类并行机的产生,按照麦克·弗莱因(Michael Flynn)的说法分为单指令流多数据流(SIMD)和多指令流多数据流(MIMD),而常用的串行机也称为单指令流单数据流(SISD)。MIMD类的机器又可分为常见的五类:并行向量处理机(PVP)、对称多处理机(SMP)、大规模并行处理机(MPP)、工作站机群(COW)、分布式共享存储处理机(DSM)。

并行计算机有以下五种访存模型:均匀访存模型(UMA)、非均匀访存模型(NUMA)、全高速缓存访存模型(COMA)、一致性高速缓存非均匀存储访问模型(CC-NUMA)和非远程存储访问模型(NORMA)。

不像串行计算机那样,主流使用冯·诺伊曼的计算模型,并行计算机没有一个统一的计算模型。不过,人们已经提出了几种有价值的参考模型:PRAM模型,BSP模型,LogP模型,C^3模型等。

并行计算机是靠网络将各个处理机或处理器连接起来的,一般来说有以下几种方式

网络的基本术语:

并行算法是一门还没有发展成熟的学科,虽然人们已经总结出了相当多的经验,但是远远不及串行算法那样丰富。并行算法设计中最常用的的方法是PCAM方法,即划分,通信,组合,映射。首先划分,就是将一个问题平均划分成若干份,并让各个处理器去同时执行;通信阶段,就是要分析执行过程中所要交换的数据和任务的协调情况,而组合则是要求将较小的问题组合到一起以提高性能和减少任务开销,映射则是要将任务分配到每一个处理器上。总之,并行算法还需要相当多完善的地方。并行算法与串行算法最大的不同之处在于,并行算法不仅要考虑问题本身,而且还要考虑所使用的并行模型,网络连接等等。

相关

  • 配体配体(ligand,也称为配基、配位基、牙基)是一个化学名词,表示可和中心原子(金属或类金属)产生键结的原子、分子和离子。一般而言,配体在参与键结时至少会提供一个电子。配体扮演路易
  • 沙眼砂眼(Trachoma),又称颗粒性结膜炎(Granular conjunctivitis)、埃及眼炎(Egyptian ophthalmia)和致盲性砂眼(blinding trachoma)是由砂眼披衣菌感染导致的传染病。感染砂眼会造成眼睑
  • 天鹅天鹅属(学名:Cygnus)是雁形目鸭科的一个属。这一属的鸟类是游禽中体形最大的种类,又名鹄或白鹄,被俗称为“天鹅”。天鹅属在除非洲以外的各大洲都有野生种或亚种分布。白色的四个
  • 牙桥牙桥(英语:Dental Bridge)是一种固定假牙,弥补缺失的牙齿。缺齿位置的假牙借助相邻的牙齿制作的牙套固定,由于两旁的牙齿充当桥墩的角色,而连接的假牙则为桥面,所以称为牙桥。牙桥
  • 米尼美尼斯是传说中第一位将古埃及统一起来的统治者。通常认为他于公元前3100年前创立了古埃及第一王朝。如同古罗马的罗慕路斯,美尼斯被视为古埃及历史的创建者。根据传说,将上下
  • 多伦多磁学和气象学观测站多伦多磁学和气象学观测站(英语:Toronto Magnetic and Meteorological Observatory)位于加拿大安大略多伦多的多伦多大学,是一个历史性的天文台。原有建筑于1840年建成,是爱德华
  • 岐阜县岐阜县(日语:岐阜県/ぎふけん Gifu ken */?)位于日本中部的东海地方,为八个无内陆县份之一,与长野县、爱知县、三重县、滋贺县、福井县、石川县、富山县比邻。面积10,598.18km²
  • 肉类食物肉类食物,或者简称肉类或荤菜,是从各种动物身上可供食用的肉及一些其他组织,经过不同程度及方法的加工,成为不同种类的肉类食物。常见的肉类包括猪肉、牛肉、羊肉以及鸡肉、鸭肉
  • 网元圣唐游戏吧,即北京网元圣唐娱乐科技有限公司,简称网元圣唐,是2009年成立于北京石景山高新技术园区的一间电子游戏公司,由中视网元原CEO孟宪明出走后成立,主要业务为单机游戏、网络游
  • 保加利亚国家图书馆保加利亚国家图书馆(保加利亚语:Национална библиотека „Свети Свети Кирил и Методий)位于索菲亚,是保加利亚的国家图书馆。它创