中山网站制作策划,wordpress 文件夹名称,最牛的房地产网站建设,网络广告营销成功案例作者#xff1a;Kaz Sato 来源#xff1a;Google Cloud、机器之心摘要#xff1a;张量处理单元#xff08;TPU#xff09;是一种定制化的 ASIC 芯片#xff0c;它由谷歌从头设计#xff0c;并专门用于机器学习工作负载。TPU 为谷歌的主要产品提供了计算支持#xff0c;… 作者Kaz Sato 来源Google Cloud、机器之心摘要张量处理单元TPU是一种定制化的 ASIC 芯片它由谷歌从头设计并专门用于机器学习工作负载。TPU 为谷歌的主要产品提供了计算支持包括翻译、照片、搜索助理和 Gmail 等。张量处理单元TPU是一种定制化的 ASIC 芯片它由谷歌从头设计并专门用于机器学习工作负载。TPU 为谷歌的主要产品提供了计算支持包括翻译、照片、搜索助理和 Gmail 等。Cloud TPU 将 TPU 作为可扩展的云计算资源并为所有在 Google Cloud 上运行尖端 ML 模型的开发者与数据科学家提供计算资源。在 Google Next’18 中我们宣布 TPU v2 现在已经得到用户的广泛使用包括那些免费试用用户而 TPU v3 目前已经发布了内部测试版。第三代 Cloud TPU如上为 tpudemo.com 截图该网站 PPT 解释了 TPU 的特性与定义。在本文中我们将关注 TPU 某些特定的属性。神经网络如何运算在我们对比 CPU、GPU 和 TPU 之前我们可以先了解到底机器学习或神经网络需要什么样的计算。如下所示假设我们使用单层神经网络识别手写数字。如果图像为 28×28 像素的灰度图那么它可以转化为包含 784 个元素的向量。神经元会接收所有 784 个值并将它们与参数值上图红线相乘因此才能识别为「8」。其中参数值的作用类似于用「滤波器」从数据中抽取特征因而能计算输入图像与「8」之间的相似性这是对神经网络做数据分类最基础的解释即将数据与对应的参数相乘上图两种颜色的点并将它们加在一起上图右侧收集计算结果。如果我们能得到最高的预测值那么我们会发现输入数据与对应参数非常匹配这也就最可能是正确的答案。简单而言神经网络在数据和参数之间需要执行大量的乘法和加法。我们通常会将这些乘法与加法组合为矩阵运算这在我们大学的线性代数中会提到。所以关键点是我们该如何快速执行大型矩阵运算同时还需要更小的能耗。CPU 如何运行因此 CPU 如何来执行这样的大型矩阵运算任务呢一般 CPU 是基于冯诺依曼架构的通用处理器这意味着 CPU 与软件和内存的运行方式如下CPU 如何运行该动图仅展示了概念性原理并不反映 CPU 的实际运算行为。CPU 最大的优势是灵活性。通过冯诺依曼架构我们可以为数百万的不同应用加载任何软件。我们可以使用 CPU 处理文字、控制火箭引擎、执行银行交易或者使用神经网络分类图像。但是由于 CPU 非常灵活硬件无法一直了解下一个计算是什么直到它读取了软件的下一个指令。CPU 必须在内部将每次计算的结果保存到内存中也被称为寄存器或 L1 缓存。内存访问成为 CPU 架构的不足被称为冯诺依曼瓶颈。虽然神经网络的大规模运算中的每一步都是完全可预测的每一个 CPU 的算术逻辑单元ALU控制乘法器和加法器的组件都只能一个接一个地执行它们每一次都需要访问内存限制了总体吞吐量并需要大量的能耗。GPU 如何工作为了获得比 CPU 更高的吞吐量GPU 使用一种简单的策略在单个处理器中使用成千上万个 ALU。现代 GPU 通常在单个处理器中拥有 2500-5000 个 ALU意味着你可以同时执行数千次乘法和加法运算。GPU 如何工作这个动画仅用于概念展示。并不反映真实处理器的实际工作方式。这种 GPU 架构在有大量并行化的应用中工作得很好例如在神经网络中的矩阵乘法。实际上相比 CPUGPU 在深度学习的典型训练工作负载中能实现高几个数量级的吞吐量。这正是为什么 GPU 是深度学习中最受欢迎的处理器架构。但是GPU 仍然是一种通用的处理器必须支持几百万种不同的应用和软件。这又把我们带回到了基础的问题冯诺依曼瓶颈。在每次几千个 ALU 的计算中GPU 都需要访问寄存器或共享内存来读取和保存中间计算结果。因为 GPU 在其 ALU 上执行更多的并行计算它也会成比例地耗费更多的能量来访问内存同时也因为复杂的线路而增加 GPU 的物理空间占用。TPU 如何工作当谷歌设计 TPU 的时候我们构建了一种领域特定的架构。这意味着我们没有设计一种通用的处理器而是专用于神经网络工作负载的矩阵处理器。TPU 不能运行文本处理软件、控制火箭引擎或执行银行业务但它们可以为神经网络处理大量的乘法和加法运算同时 TPU 的速度非常快、能耗非常小且物理空间占用也更小。其主要助因是对冯诺依曼瓶颈的大幅度简化。因为该处理器的主要任务是矩阵处理TPU 的硬件设计者知道该运算过程的每个步骤。因此他们放置了成千上万的乘法器和加法器并将它们直接连接起来以构建那些运算符的物理矩阵。这被称作脉动阵列Systolic Array架构。在 Cloud TPU v2 的例子中有两个 128X128 的脉动阵列在单个处理器中集成了 32768 个 ALU 的 16 位浮点值。我们来看看一个脉动阵列如何执行神经网络计算。首先TPU 从内存加载参数到乘法器和加法器的矩阵中。然后TPU 从内存加载数据。当每个乘法被执行后其结果将被传递到下一个乘法器同时执行加法。因此结果将是所有数据和参数乘积的和。在大量计算和数据传递的整个过程中不需要执行任何的内存访问。这就是为什么 TPU 可以在神经网络运算上达到高计算吞吐量同时能耗和物理空间都很小。好处成本降低至 1/5因此使用 TPU 架构的好处就是降低成本。以下是截至 2018 年 8 月写这篇文章的时候Cloud TPU v2 的使用价格。Cloud TPU v2 的价格截至 2018 年 8 月。斯坦福大学发布了深度学习和推理的基准套装 DAWNBench。你可以在上面找到不同的任务、模型、计算平台以及各自的基准结果的组合。DAWNBenchhttps://dawn.cs.stanford.edu/benchmark/在 DAWNBench 比赛于 2018 年 4 月结束的时候非 TPU 处理器的最低训练成本是 72.40 美元使用现场实例训练 ResNet-50 达到 93% 准确率。而使用 Cloud TPU v2 抢占式计价你可以在 12.87 美元的价格完成相同的训练结果。这仅相当于非 TPU 的不到 1/5 的成本。这正是神经网络领域特定架构的威力之所在。原文链接https://cloud.google.com/blog/products/ai-machine-learning/what-makes-tpus-fine-tuned-for-deep-learning未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能互联网和脑科学交叉研究机构。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
