平行运算

✍ dations ◷ 2025-08-29 04:29:48 #平行运算
并行计算(英语:parallel computing)一般是指许多指令得以同时进行的计算模式。在同时进行的前提下,可以将计算的过程分解成小部分,之后以并发方式来加以解决。电脑软件可以被分成数个运算步骤来运行。为了解决某个特定问题,软件采用某个算法,以一连串指令运行来完成。传统上,这些指令都被送至单一的中央处理器,以循序方式运行完成。在这种处理方式下,单一时间中,只有单一指令被运行(processor level: 比较微处理器,CISC, 和RISC,即流水线Pipeline的概念,以及后来在Pipeline基础上以提高指令处理效率为目的的硬件及软件发展,比如branch-prediction, 比如forwarding,比如在每个运算单元前的指令堆栈,汇编程序员对programm code的顺序改写)。并行运算采用了多个运算单元,同时运行,以解决问题。相对于串行计算,并行计算可以划分成时间并行和空间并行。时间并行即指令流水化,空间并行使用多个处理器执行并发计算,当前研究的主要是空间的并行问题。以程序和算法设计人员的角度看,并行计算又可分为数据并行和任务并行。数据并行把大的任务化解成若干个相同的子任务,处理起来比任务并行简单。空间上的并行导致两类并行机的产生,按照麦克·弗莱因(Michael Flynn)的说法分为单指令流多数据流(SIMD)和多指令流多数据流(MIMD),而常用的串行机也称为单指令流单数据流(SISD)。MIMD类的机器又可分为常见的五类:并行向量处理机(PVP)、对称多处理机(SMP)、大规模并行处理机(MPP)、工作站机群(COW)、分布式共享存储处理机(DSM)。并行计算机有以下五种访存模型:均匀访存模型(UMA)、非均匀访存模型(NUMA)、全高速缓存访存模型(COMA)、一致性高速缓存非均匀存储访问模型(CC-NUMA)和非远程存储访问模型(NORMA)。不像串行计算机那样,主流使用冯·诺伊曼的计算模型,并行计算机没有一个统一的计算模型。不过,人们已经提出了几种有价值的参考模型:PRAM模型,BSP模型,LogP模型,C^3模型等。并行计算机是靠网络将各个处理机或处理器连接起来的,一般来说有以下几种方式网络的基本术语:并行算法是一门还没有发展成熟的学科,虽然人们已经总结出了相当多的经验,但是远远不及串行算法那样丰富。并行算法设计中最常用的的方法是PCAM方法,即划分,通信,组合,映射。首先划分,就是将一个问题平均划分成若干份,并让各个处理器去同时执行;通信阶段,就是要分析执行过程中所要交换的数据和任务的协调情况,而组合则是要求将较小的问题组合到一起以提高性能和减少任务开销,映射则是要将任务分配到每一个处理器上。总之,并行算法还需要相当多完善的地方。 并行算法与串行算法最大的不同之处在于,并行算法不仅要考虑问题本身,而且还要考虑所使用的并行模型,网络连接等等。

相关

  • 手术人体解剖学 - 人体生理学 组织学 - 胚胎学 人体寄生虫学 - 免疫学 病理学 - 病理生理学 细胞学 - 营养学 流行病学 - 药理学 - 毒理学外科手术,简称手术,凡指透过器械,经外科
  • 系膜增生性肾小球肾炎系膜增生性肾小球肾炎(Mesangial proliferative glomerulonephritis)是肾小球肾炎(glomerulonephritis)的一种形式,伴随着原发性系膜(mesangium)而产生。 有一些证据表明,白细
  • SFR钠冷快中子反应堆(英语:Sodium-cooled Fast Reactor,缩写:SFR),是一种快中子增殖反应堆,以液态钠做为冷却剂。位于美国爱达荷州、全世界第一座可发电的反应堆EBR-I即使用液态钠钾合
  • 冥界节庆:冥界,在希腊神话中,是人类在死后的灵魂所去的另一个世界,在冥界生活的神和灵魂统称克托尼俄斯。类似于中国民间信仰中的阴间,此处也是古希腊人原有的来世观(英语:afterlife)的
  • 东哥特人东哥特人(Ostrogoths),港、台译作东哥德人,是哥特人的一个分支,3世纪时曾在黑海北边建立一个帝国。5世纪末在意大利建立东哥特王国。东哥特人自波罗的海地区向南扩张,建起一个其幅
  • 语言学语言学(英语:linguistics)是一门关于人类语言的科学研究。语言学包含了几种分支领域。在语言结构(语法)研究与意义(语义与语用)研究之间存在一个重要的主题划分。语法中包含了词法(
  • 皮下气肿皮下气肿(英语:Subcutaneous emphysema),亦被称为组织气肿,是指因空气或气体积存于皮下组织而形成的气肿。皮下气肿中的皮下是指位于皮肤表面下的组织,而气肿则是指积存在皮下组织
  • 尼比鲁碰撞尼比鲁碰撞,是一个假设的末世论灾难,因地球和一个大型假想的行星尼比鲁发生碰撞或摩擦而产生,部分组织相信灾难会发生于21世纪初,此说法与2012年玛雅预言、太阳风暴、地球磁极反
  • 族群遗传学现代生物分类群体从它们的 共同祖先遗传分化的图示。进化论介绍(英语:Introduction to evolution) 演化的证据 共同起源 共同起源的证据群体遗传学 · 遗传多样性 突变 · 自
  • 亚美利哥·韦斯普奇亚美利哥·韦斯普奇(意大利语:Amerigo Vespucci,1454年3月9日-1512年2月22日)是佛罗伦萨商人、航海家、探险家和旅行家,美洲(全称亚美利加洲)是以他的名字命名的。他经过对南美洲东