并行计算

✍ dations ◷ 2025-08-10 16:01:45 #计算机科学,理论计算机科学,并发计算,分布式计算

并行计算(英语:parallel computing)一般是指许多指令得以同时进行的计算模式。在同时进行的前提下,可以将计算的过程分解成小部分,之后以并发方式来加以解决。

电脑软件可以被分成数个运算步骤来运行。为了解决某个特定问题,软件采用某个算法,以一连串指令运行来完成。传统上,这些指令都被送至单一的中央处理器,以循序方式运行完成。在这种处理方式下,单一时间中,只有单一指令被运行(processor level: 比较微处理器,CISC, 和RISC,即流水线Pipeline的概念,以及后来在Pipeline基础上以提高指令处理效率为目的的硬件及软件发展,比如branch-prediction, 比如forwarding,比如在每个运算单元前的指令堆栈,汇编程序员对programm code的顺序改写)。并行运算采用了多个运算单元,同时运行,以解决问题。

相对于串行计算,并行计算可以划分成时间并行和空间并行。时间并行即指令流水化,空间并行使用多个处理器执行并发计算,当前研究的主要是空间的并行问题。以程序和算法设计人员的角度看,并行计算又可分为数据并行和任务并行。数据并行把大的任务化解成若干个相同的子任务,处理起来比任务并行简单。

空间上的并行导致两类并行机的产生,按照麦克·弗莱因(Michael Flynn)的说法分为单指令流多数据流(SIMD)和多指令流多数据流(MIMD),而常用的串行机也称为单指令流单数据流(SISD)。MIMD类的机器又可分为常见的五类:并行向量处理机(PVP)、对称多处理机(SMP)、大规模并行处理机(MPP)、工作站机群(COW)、分布式共享存储处理机(DSM)。

并行计算机有以下五种访存模型:均匀访存模型(UMA)、非均匀访存模型(NUMA)、全高速缓存访存模型(COMA)、一致性高速缓存非均匀存储访问模型(CC-NUMA)和非远程存储访问模型(NORMA)。

不像串行计算机那样,主流使用冯·诺伊曼的计算模型,并行计算机没有一个统一的计算模型。不过,人们已经提出了几种有价值的参考模型:PRAM模型,BSP模型,LogP模型,C^3模型等。

并行计算机是靠网络将各个处理机或处理器连接起来的,一般来说有以下几种方式

网络的基本术语:

并行算法是一门还没有发展成熟的学科,虽然人们已经总结出了相当多的经验,但是远远不及串行算法那样丰富。并行算法设计中最常用的的方法是PCAM方法,即划分,通信,组合,映射。首先划分,就是将一个问题平均划分成若干份,并让各个处理器去同时执行;通信阶段,就是要分析执行过程中所要交换的数据和任务的协调情况,而组合则是要求将较小的问题组合到一起以提高性能和减少任务开销,映射则是要将任务分配到每一个处理器上。总之,并行算法还需要相当多完善的地方。并行算法与串行算法最大的不同之处在于,并行算法不仅要考虑问题本身,而且还要考虑所使用的并行模型,网络连接等等。

相关

  • 西加鱼毒雪卡毒素(英语:Ciguatoxins,简称CTX),又名雪卡鱼毒素、西加鱼毒素,是一类引起西加鱼毒中毒的毒素,共有4种。食物中这类毒素无法被烹饪去除,因此最好不要吃珊瑚礁鱼类的头部、皮肤及
  • 社交网络服务多数社交网路会提供多种让用户交互起来的方式 ,可以为聊天、寄信、影音、文件分享、博客、新闻组等。社交网路为信息的交流与分享提供了新的途径。作为社交网路的网站一般会
  • 唐菖蒲唐菖蒲(学名:Gladiolus gandavensis)为鸢尾科唐菖蒲属下的一个种,俗称剑兰。
  • 缺电子缺电子分子或缺电子化合物,指分子中的价电子数少于其形成正常共价键所需电子数的化合物。 例如:在分子结构中含有多中心缺电子键的分子称为缺电子分子。缺电子分子是指中心原
  • 大庆汽车大庆汽车工业股份有限公司,简称大庆汽车、TCMC,是一家台湾汽车制造商,总部位于屏东县屏东市,曾是速霸陆汽车的台湾总代理商,主要股东为前益华公司董事长王镇魁以台湾伟士伯公司名
  • 金融监督管理委员会金融监督管理委员会(简称金管会)是中华民国监督与管理金融事务与规划金融政策的部会,成立于2004年7月,目标包含维持金融稳定、落实金融改革、协助产业发展、加强消费者与投资人
  • 敬畏敬畏(awe),意指在面对权威、庄严或崇高事物时所产生的情绪,带有恐惧、尊敬及惊奇的感受。孔子说:“君子有三畏:畏天命,畏大人.畏圣人之言。”(《论语·季氏》)。朱熹说:“然敬有甚物,
  • 阿克苏姆方尖碑阿克苏姆方尖碑(今天在阿克苏姆,又称为罗马石碑)是一根有1,700年历史,高24米的花岗岩方尖碑,重160吨。它的基座有两个假门,各面都有类似窗口的装饰。其顶部为半圆形。阿克苏姆方尖
  • 促效剂激动剂(或称:刺激剂/促进剂/激活剂)(英语:agonist)是与受体结合并使之激活,产生生理反应的化合物。激动剂按来源分为内源激动剂和外源(英语:exogenous)激动剂,按效能分为完全激动剂、超
  • 窦祖烈窦祖烈(英语:Julius T. Tou,1925年8月15日-2002年6月22日),字子攸,江苏无锡人,电子工程专家,中央研究院院士。窦祖烈早年曾就读于上海市南洋模范中学,后考入交通大学电机工程系。1947