平行运算

✍ dations ◷ 2025-04-03 16:52:40 #平行运算
并行计算(英语:parallel computing)一般是指许多指令得以同时进行的计算模式。在同时进行的前提下,可以将计算的过程分解成小部分,之后以并发方式来加以解决。电脑软件可以被分成数个运算步骤来运行。为了解决某个特定问题,软件采用某个算法,以一连串指令运行来完成。传统上,这些指令都被送至单一的中央处理器,以循序方式运行完成。在这种处理方式下,单一时间中,只有单一指令被运行(processor level: 比较微处理器,CISC, 和RISC,即流水线Pipeline的概念,以及后来在Pipeline基础上以提高指令处理效率为目的的硬件及软件发展,比如branch-prediction, 比如forwarding,比如在每个运算单元前的指令堆栈,汇编程序员对programm code的顺序改写)。并行运算采用了多个运算单元,同时运行,以解决问题。相对于串行计算,并行计算可以划分成时间并行和空间并行。时间并行即指令流水化,空间并行使用多个处理器执行并发计算,当前研究的主要是空间的并行问题。以程序和算法设计人员的角度看,并行计算又可分为数据并行和任务并行。数据并行把大的任务化解成若干个相同的子任务,处理起来比任务并行简单。空间上的并行导致两类并行机的产生,按照麦克·弗莱因(Michael Flynn)的说法分为单指令流多数据流(SIMD)和多指令流多数据流(MIMD),而常用的串行机也称为单指令流单数据流(SISD)。MIMD类的机器又可分为常见的五类:并行向量处理机(PVP)、对称多处理机(SMP)、大规模并行处理机(MPP)、工作站机群(COW)、分布式共享存储处理机(DSM)。并行计算机有以下五种访存模型:均匀访存模型(UMA)、非均匀访存模型(NUMA)、全高速缓存访存模型(COMA)、一致性高速缓存非均匀存储访问模型(CC-NUMA)和非远程存储访问模型(NORMA)。不像串行计算机那样,主流使用冯·诺伊曼的计算模型,并行计算机没有一个统一的计算模型。不过,人们已经提出了几种有价值的参考模型:PRAM模型,BSP模型,LogP模型,C^3模型等。并行计算机是靠网络将各个处理机或处理器连接起来的,一般来说有以下几种方式网络的基本术语:并行算法是一门还没有发展成熟的学科,虽然人们已经总结出了相当多的经验,但是远远不及串行算法那样丰富。并行算法设计中最常用的的方法是PCAM方法,即划分,通信,组合,映射。首先划分,就是将一个问题平均划分成若干份,并让各个处理器去同时执行;通信阶段,就是要分析执行过程中所要交换的数据和任务的协调情况,而组合则是要求将较小的问题组合到一起以提高性能和减少任务开销,映射则是要将任务分配到每一个处理器上。总之,并行算法还需要相当多完善的地方。 并行算法与串行算法最大的不同之处在于,并行算法不仅要考虑问题本身,而且还要考虑所使用的并行模型,网络连接等等。

相关

  • 基础医学人体解剖学 - 人体生理学 组织学 - 胚胎学 人体寄生虫学 - 免疫学 病理学 - 病理生理学 细胞学 - 营养学 流行病学 - 药理学 - 毒理学基础医学(BMS),属于基础学科,是现代医学的
  • 生物膜生物膜(英语:Biological membrane)是对生物体内所有膜结构的统称。它是一层封闭的、有分隔作用的膜,在生物体中担任选择透过性屏障。细胞膜是生物膜的一种,通常由磷脂双分子层组
  • 韦格纳肉芽肿肉芽肿并多发性血管炎(Granulomatosis with polyangiitis,缩写为GPA),旧称韦格纳肉芽肿(英语:Wegener's granulomatosis,缩写为 WG),又译为华格纳氏肉芽肿,一种自体免疫疾病,发生原因不
  • 行政行政机关,又称行政机构、行政部门,其工作是对组织进行日常的管理并施行法律政策等相关活动,是三权分立中的其中一部分。广义上,行政定义为负责国家政策的执行的政府机构。狭义上
  • 年表列表这是年表列表,年表或历史年表(Timeline),又称时间表、时间轴,是将有关历史的资料依时间或年份先后排列而成的列表,即将一件发生在某年某月某日的历史事件,以最简单的形式,重点地记录
  • 傍人(属)傍人,是人族下的傍人属(学名:Paranthropus),是双足行走的史前人科成员,可能是由南方古猿演化而来。傍人曾经被分类为南猿属之中的粗壮型南猿。所有的傍人物种都是双足行走的,而大部
  • 塔伦蒂诺语塔伦蒂诺语是意大利普利亚区东南部所使用的一种语言,大部分使用者居住在塔兰托。也有部分意大利裔美国人使用此语言,他们主要居住在加利福尼亚。塔伦蒂诺语和意大利语与西西里
  • 八氮立方烷八氮立方烷也称为“立方氮烷”,是氮元素的一种假想单质,分子式为N8。八氮立方烷与N2、N4等互为同素异形体。八氮立方烷分子由8个围成立方体氮原子构成,可以看作所有次甲基都被
  • 华彦钧华彦钧(1893年8月17日-1950年12月4日),小名阿炳。中国著名民间音乐家、道士,江苏无锡人。从小受到父亲严格训练,擅演奏笛子、琵琶、二胡、鼓等乐器。约1928年双目失明,时人因称其为
  • 浣熊浣熊属哺乳纲食肉目浣熊科的一种动物。源自北美洲,因其食前要将食物在水中洗濯,故名浣熊。浣熊通常重5.5到9.5公斤,但有记载的最重的可达28公斤。眼睛周围为黑色,尾有5-6个黑色