张量处理单元

✍ dations ◷ 2025-12-07 04:49:11 #集成电路,机器学习,Google,微处理器

张量处理单元(英文:Tensor Processing Unit,简称:TPU),也称张量处理器,是 Google 开发的专用集成电路(ASIC),专门用于加速机器学习。自 2015 年起,谷歌就已经开始在内部使用 TPU,并于 2018 年将 TPU 提供给第三方使用,既将部分 TPU 作为其云基础架构的一部分,也将部分小型版本的 TPU 用于销售。

2016 年 5 月,Google 在 Google I/O 上宣布了张量处理单元,并表示 TPU 已经在其数据中心内部使用了超过一年。该芯片是专门为 Google 的 TensorFlow 框架(一个符号数学库,用于机器学习应用程序,如神经网络)设计的。不过,截至 2017 年,Google 也将 CPU 和 GPU 用于其他类型的机器学习。其他供应商也设计了自己的 AI 加速器,并针对嵌入式和机器人市场。

Google 的 TPU 是专有的,一些 TPU 的型号已经上市。在 2018 年 2 月 12 日,纽约时报报道称 Google 将“允许其他公司通过其云计算服务购买对这些芯片的访问权”。Google 曾称,它们已用于 AlphaGo 与李世乭的人机围棋对战以及 AlphaZero 系统中。Google还使用 TPU 进行 Google 街景中的文本处理,并且能够在不到五天的时间内找到 Google 街景数据库中的所有文本。在 Google 相册中,单个 TPU 每天可以处理超过1亿张照片。TPU 也被用在 Google 用来提供搜索结果的 RankBrain 中。

与图形处理单元(GPU)相比,TPU 被设计用于进行大量的低精度计算(如 8 位的低精度),每焦耳功耗下的输入/输出操作更多,但缺少用于光栅化/纹理映射的硬件。

根据 Norman Jouppi(英语:Norman Jouppi) 的说法,TPU 可以安装在散热器组件中,从而可以安装在数据中心机架上的硬盘驱动器插槽中。

第一代TPU是一个 8 位矩阵乘法的引擎,使用复杂指令集,并由主机通过 PCIe 3.0 总线驱动。它采用28 nm工艺制造,裸晶尺寸小于 331 mm2,时钟速度为 700 MHz,热设计功耗为 28–40 W。它有28 MiB 的片上存储和 4 MiB 的 32位累加器,取 8 位乘法器的 256×256 脉动阵列的计算结果。TPU 还封装了 8 GiB 的双通道 2133 MHz DDR3 SDRAM,带宽达到 34 GB/s。TPU 的指令向主机进行数据的收发,执行矩阵乘法和卷积运算,并应用激活函数。

第二代 TPU 于 2017 年 5 月发布。Google 表示,第一代 TPU 的设计受到了内存带宽的限制,因此在第二代设计中使用 16 GB 的高带宽内存,可将带宽提升到 600 GB/s,性能从而可达到 45 TFLOPS。TPU 芯片随后被排列成性能为 180 TFLOPS 的四芯片模块,并将其中的 64 个这样的模块组装成 256 芯片的 Pod,性能达到 11.5 PFLOPS。值得注意的是,第一代 TPU 只能进行整数运算,但第二代 TPU 还可以进行浮点运算。这使得第二代 TPU 对于机器学习模型的训练和推理都非常有用。谷歌表示,这些第二代TPU将可在 Google 计算引擎上使用,以用于 TensorFlow 应用程序中。

第三代 TPU 于 2018 年 5 月 8 日发布。谷歌宣布第三代 TPU 的性能是第二代的两倍,并将部署在芯片数量是上一代的四倍的 Pod 中。与部署的第二代 TPU 相比,这使每个 Pod 的性能提高了 8 倍(每个 Pod 中最多装有 1,024 个芯片)。

相关

  • 牙结石清除术牙结石清除术,又称结石刮除术,俗称洗牙,是借由各种器械(如超声波洁牙机,手动刮牙器等)来去除这些附着于牙颈与牙龈沟之间的牙结石及牙菌斑。通过洗牙可以减轻牙龈炎、牙周炎的发炎
  • 梯田梯田是一种分层的丘陵种植区。梯田一般采用人工或者管道输送水措施分层保持水土,避免灌溉用水造成快速地面径流。中国在公元前2世纪前后便有梯田的雏形。《诗经·小雅》记载:
  • 集会集会可以指
  • 糖醋鲤鱼糖醋鲤鱼,为一道中国名菜,为鲁菜济南派系的代表菜之一。主要用料为鲤鱼,其中尤以黄河鲤鱼为最佳。调料有白糖、醋等。基本做菜流程为:首先要将鲤鱼炸熟,然后再将糖醋汁浇于鱼体之
  • 清硬颚擦音清硬颚擦音,又称中舌面清擦音。发音时候舌面中部擡起,气流通过舌面中部发出摩擦的声音,并且声带不振动。德语dicht 的ch就是这个音,日语“人”(ひと,hito)的ひ也是这个音。上海话“
  • 卡尔乔 (食品)卡尔乔(格鲁吉亚语:ხარჩო)是一道传统乔治亚浓汤料理。卡尔乔的主要原料是牛肉(但也可以使用羊肉、猪肉、鸡肉或鹅肉)。将牛肉洗净之后慢煮2到2.5个小时,去除泡沫。之后加入大
  • 肖恩·帕夫拉姆肖恩·帕夫拉姆(英语:Shawn Pyfrom,1986年8月16日-)是美国的一位演员。他出演过众多电视剧和电影,其中主要作品有绝望主妇。他出生在佛罗里达坦帕,在7岁时随父母移居加利福尼亚。
  • 质光关系质光关系是天文物理中显示恒星光度与质量之间关系的方程式。以公式表示的关系是:此处的⊙和⊙是太阳的光度和质量,并且1 <  < 6。在主序带上的恒星,通常  = 3.5。 这个方
  • 人类精神进步史表纲要人类精神进步史表纲要(英文:Sketch for a Historical Picture of the Progress of the Human Mind )是法国启蒙运动时期数学家和哲学家马奎斯·孔多塞的一部著作,这部著作是他在
  • 克莱武·贝兹克莱武·贝兹(Clive Betts,1950年1月13日-)是一位英格兰政治人物,他的党籍是工党。自2010年开始,他担任东南雪菲尔选区选出的英国下议院议员。他出生在雪菲尔,在1969年加入工党。