并行计算

✍ dations ◷ 2025-09-07 10:05:06 #计算机科学,理论计算机科学,并发计算,分布式计算

并行计算(英语:parallel computing)一般是指许多指令得以同时进行的计算模式。在同时进行的前提下,可以将计算的过程分解成小部分,之后以并发方式来加以解决。

电脑软件可以被分成数个运算步骤来运行。为了解决某个特定问题,软件采用某个算法,以一连串指令运行来完成。传统上,这些指令都被送至单一的中央处理器,以循序方式运行完成。在这种处理方式下,单一时间中,只有单一指令被运行(processor level: 比较微处理器,CISC, 和RISC,即流水线Pipeline的概念,以及后来在Pipeline基础上以提高指令处理效率为目的的硬件及软件发展,比如branch-prediction, 比如forwarding,比如在每个运算单元前的指令堆栈,汇编程序员对programm code的顺序改写)。并行运算采用了多个运算单元,同时运行,以解决问题。

相对于串行计算,并行计算可以划分成时间并行和空间并行。时间并行即指令流水化,空间并行使用多个处理器执行并发计算,当前研究的主要是空间的并行问题。以程序和算法设计人员的角度看,并行计算又可分为数据并行和任务并行。数据并行把大的任务化解成若干个相同的子任务,处理起来比任务并行简单。

空间上的并行导致两类并行机的产生,按照麦克·弗莱因(Michael Flynn)的说法分为单指令流多数据流(SIMD)和多指令流多数据流(MIMD),而常用的串行机也称为单指令流单数据流(SISD)。MIMD类的机器又可分为常见的五类:并行向量处理机(PVP)、对称多处理机(SMP)、大规模并行处理机(MPP)、工作站机群(COW)、分布式共享存储处理机(DSM)。

并行计算机有以下五种访存模型:均匀访存模型(UMA)、非均匀访存模型(NUMA)、全高速缓存访存模型(COMA)、一致性高速缓存非均匀存储访问模型(CC-NUMA)和非远程存储访问模型(NORMA)。

不像串行计算机那样,主流使用冯·诺伊曼的计算模型,并行计算机没有一个统一的计算模型。不过,人们已经提出了几种有价值的参考模型:PRAM模型,BSP模型,LogP模型,C^3模型等。

并行计算机是靠网络将各个处理机或处理器连接起来的,一般来说有以下几种方式

网络的基本术语:

并行算法是一门还没有发展成熟的学科,虽然人们已经总结出了相当多的经验,但是远远不及串行算法那样丰富。并行算法设计中最常用的的方法是PCAM方法,即划分,通信,组合,映射。首先划分,就是将一个问题平均划分成若干份,并让各个处理器去同时执行;通信阶段,就是要分析执行过程中所要交换的数据和任务的协调情况,而组合则是要求将较小的问题组合到一起以提高性能和减少任务开销,映射则是要将任务分配到每一个处理器上。总之,并行算法还需要相当多完善的地方。并行算法与串行算法最大的不同之处在于,并行算法不仅要考虑问题本身,而且还要考虑所使用的并行模型,网络连接等等。

相关

  • 临床微生物学医学微生物学(clinical microbiology)是的一个医学分支,主要关注传染病的预防、诊断和治疗。此外,科学这一领域的研究微生物对健康的改善各种临床应用。有四种微生物是会导致传
  • 玻璃碳玻璃碳(glassy carbon),是结合了玻璃和陶瓷的属性的非石墨化碳。特点是耐高温,高硬度(莫氏硬度7),低密度,低电阻,低摩擦,低导热性,高耐化学侵蚀性,不被气体和液体渗透。 玻璃碳作为电极
  • 一次性密码本一次性密码本(one-time pad,缩写为OTP)是古典密码学中的一种加密算法。是以随机的密钥(key)组成明文,且只使用一次。在理论上,此种密码具有完善保密性,是牢不可破的。它的安全性已由
  • 普雷格尔弗里茨·普雷格尔(Fritz Pregl,1869年9月3日-1930年12月13日),生于卢布尔雅那,逝世于奥地利格拉茨,斯洛文尼亚裔奥地利化学家,1923年获诺贝尔化学奖。1901年:范托夫 | 1902年:费歇尔 |
  • 祝世宁祝世宁(1949年12月-),生于江苏南京,原籍江苏镇江,中国功能材料学家,南京大学教授。现任南京大学物理系主任。1981年毕业于淮阴师范学院,1988年在南京大学获硕士学位,1996年在南京大学
  • 钇化合物钇化合物是钇(元素符号:Y)形成的化合物,在这些化合物中,钇一般显+3价。钇化合物的溶解度性质与镧系元素铕至镥的化合物有一定相似之处,如碳酸盐和草酸盐难溶于水,而可溶于过量的碳
  • 护航航空母舰护航航空母舰(英语:escort carrier)是在第二次世界大战中出现的一种小型航空母舰,通常用于执行保护运输船队免受敌方水面舰艇及水下潜艇攻击的护航任务。护航航空母舰的出现起源
  • 抽脂抽脂,有时也称吸脂,是一种借助外科手术抽取皮下脂肪的手段。抽脂手术方式很多,总体上可以大致分为负压抽取、动力辅助抽取等。抽脂的作用范围可从腹部、大腿及臀部到颈部、手臂
  • 瓦桑加利瓦桑加利苏丹国(索马里语:Saldanadda Warsangeli、阿拉伯语:سلطنة الورسنجلي‎)是索马里人建立统治索马里东北部和东南部的帝国。在其鼎盛时期,包括萨纳格州和索马
  • 气象卫星气象卫星是人造卫星的一种,其主要作用是观察和监视地球的气象和气候。气象卫星不只可以观察云的系统,城市灯光、火灾、大气和水污染、极光、沙暴、冰雪覆盖率、海流和能源浪费