平行运算

✍ dations ◷ 2025-06-27 18:42:29 #平行运算
并行计算(英语:parallel computing)一般是指许多指令得以同时进行的计算模式。在同时进行的前提下,可以将计算的过程分解成小部分,之后以并发方式来加以解决。电脑软件可以被分成数个运算步骤来运行。为了解决某个特定问题,软件采用某个算法,以一连串指令运行来完成。传统上,这些指令都被送至单一的中央处理器,以循序方式运行完成。在这种处理方式下,单一时间中,只有单一指令被运行(processor level: 比较微处理器,CISC, 和RISC,即流水线Pipeline的概念,以及后来在Pipeline基础上以提高指令处理效率为目的的硬件及软件发展,比如branch-prediction, 比如forwarding,比如在每个运算单元前的指令堆栈,汇编程序员对programm code的顺序改写)。并行运算采用了多个运算单元,同时运行,以解决问题。相对于串行计算,并行计算可以划分成时间并行和空间并行。时间并行即指令流水化,空间并行使用多个处理器执行并发计算,当前研究的主要是空间的并行问题。以程序和算法设计人员的角度看,并行计算又可分为数据并行和任务并行。数据并行把大的任务化解成若干个相同的子任务,处理起来比任务并行简单。空间上的并行导致两类并行机的产生,按照麦克·弗莱因(Michael Flynn)的说法分为单指令流多数据流(SIMD)和多指令流多数据流(MIMD),而常用的串行机也称为单指令流单数据流(SISD)。MIMD类的机器又可分为常见的五类:并行向量处理机(PVP)、对称多处理机(SMP)、大规模并行处理机(MPP)、工作站机群(COW)、分布式共享存储处理机(DSM)。并行计算机有以下五种访存模型:均匀访存模型(UMA)、非均匀访存模型(NUMA)、全高速缓存访存模型(COMA)、一致性高速缓存非均匀存储访问模型(CC-NUMA)和非远程存储访问模型(NORMA)。不像串行计算机那样,主流使用冯·诺伊曼的计算模型,并行计算机没有一个统一的计算模型。不过,人们已经提出了几种有价值的参考模型:PRAM模型,BSP模型,LogP模型,C^3模型等。并行计算机是靠网络将各个处理机或处理器连接起来的,一般来说有以下几种方式网络的基本术语:并行算法是一门还没有发展成熟的学科,虽然人们已经总结出了相当多的经验,但是远远不及串行算法那样丰富。并行算法设计中最常用的的方法是PCAM方法,即划分,通信,组合,映射。首先划分,就是将一个问题平均划分成若干份,并让各个处理器去同时执行;通信阶段,就是要分析执行过程中所要交换的数据和任务的协调情况,而组合则是要求将较小的问题组合到一起以提高性能和减少任务开销,映射则是要将任务分配到每一个处理器上。总之,并行算法还需要相当多完善的地方。 并行算法与串行算法最大的不同之处在于,并行算法不仅要考虑问题本身,而且还要考虑所使用的并行模型,网络连接等等。

相关

  • 公共工程管理局公共工程管理局(英文:Public Works Administration, PWA),为美国罗斯福新政时期(1933年-1939年)一个联邦机构,其由全国产业复兴法案(National Industrial Recovery Act)授权实施,旨在
  • 博赫尼亚博赫尼亚(Bochnia)是位于波兰南部的城市,人口约有30,000人。博赫尼亚自1999年起属小波兰省,在行政区划调整之前,博赫尼亚属塔尔努夫省。博赫尼亚建城于1248年。其地理位置位于塔
  • 呼吸性酸中毒呼吸性酸中毒是指原发性PaCO2升高而导致pH值下降,是酸碱平衡失调的四大分类中其中一类。根据发病的快慢可又分为急性与慢性两大类。造成呼吸性酸中毒的原因为CO2积聚,动脉血中
  • 理论物理理论物理学(英语:Theoretical physics)通过为现实世界建立数学模型来试图理解所有物理现象的运行机制。通过“物理理论”来条理化、解释、预言物理现象。:9丰富的想像力、精湛
  • 四苯甲烷四苯甲烷是甲烷的四个氢都被苯基取代后形成的有机化合物,于1898年由摩西·冈伯格首次制得。冈伯格的合成路线为:硝酸硝化四苯甲烷得到6。强碱与硝化的三苯甲烷类化合物次甲基
  • 紫苜蓿M. sativa subsp. ambigua M. sativa subsp. microcarpa M. sativa subsp. sativa M. sativa subsp. varia Ref: ILDIS as of November 2005紫花苜蓿(学名:Medicago sativa,阿
  • 赭石赭石可以指:
  • 高血钙高血钙(Hypercalcaemia)是指血液中的钙离子(Ca2+)过高的疾病。人体一般血钙浓度在2.1–2.6 mmol/L (8.8–10.7 mg/dL, 4.3–5.2 mEq/L),若浓度高于2.6 mmol/L,就是高血钙。轻度高
  • 将来时将来时(future tense)又称为未来时,是一种时态,用于标示动词所描述的事件仍未发生,但预期会在将来发生(在绝对时态系统中),或者随某个其他事件之后发生而不管是在过去、现在或将来(在
  • 瓜德罗普岛坐标:16°15′N 61°35′W / 16.250°N 61.583°W / 16.250; -61.583瓜德罗普(Guadeloupe;/ˌɡwɒdəˈluːp/; 法语发音:.mw-parser-output .IPA{font-family:"Charis SIL","D