婚宴网站源码,情侣博客网站模板,私人网站如何做竞价,网站的倒计时怎么做来源#xff1a;内容来自「知乎汪鹏 」所谓的AI芯片#xff0c;一般是指针对AI算法的ASIC#xff08;专用芯片#xff09;。传统的CPU、GPU都可以拿来执行AI算法#xff0c;但是速度慢#xff0c;性能低#xff0c;无法实际商用。比如#xff0c;自动驾驶需要识别道路行… 来源内容来自「知乎汪鹏 」所谓的AI芯片一般是指针对AI算法的ASIC专用芯片。传统的CPU、GPU都可以拿来执行AI算法但是速度慢性能低无法实际商用。比如自动驾驶需要识别道路行人红绿灯等状况但是如果是当前的CPU去算那么估计车翻到河里了还没发现前方是河这是速度慢时间就是生命。如果用GPU的确速度要快得多但是功耗大汽车的电池估计无法长时间支撑正常使用而且老黄家的GPU巨贵经常单块上万普通消费者也用不起还经常缺货。另外GPU因为不是专门针对AI算法开发的ASIC所以说到底速度还没到极限还有提升空间。而类似智能驾驶这样的领域必须快在手机终端可以自行人脸识别、语音识别等AI应用这个必须功耗低所以GPU OUT所以开发ASIC就成了必然。说说为什么需要AI芯片。AI算法在图像识别等领域常用的是CNN卷积网络语音识别、自然语言处理等领域主要是RNN这是两类有区别的算法。但是他们本质上都是矩阵或vector的乘法、加法然后配合一些除法、指数等算法。一个成熟的AI算法比如YOLO-V3就是大量的卷积、残差网络、全连接等类型的计算本质是乘法和加法。对于YOLO-V3来说如果确定了具体的输入图形尺寸那么总的乘法加法计算次数是确定的。比如一万亿次。真实的情况比这个大得多的多那么要快速执行一次YOLO-V3就必须执行完一万亿次的加法乘法次数。这个时候就来看了比如IBM的POWER8最先进的服务器用超标量CPU之一4GHzSIMD128bit假设是处理16bit的数据那就是8个数那么一个周期最多执行8个乘加计算。一次最多执行16个操作。这还是理论上其实是不大可能的。那么CPU一秒钟的巅峰计算次数16X4Gops64Gops。这样可以算算CPU计算一次的时间了。同样的换成GPU算算也能知道执行时间。因为对GPU内部结构不熟所以不做具体分析。再来说说AI芯片。比如大名鼎鼎的谷歌的TPU1。TPU1大约700M Hz有256X256尺寸的脉动阵列如下图所示。一共256X25664K个乘加单元每个单元一次可执行一个乘法和一个加法。那就是128K个操作。乘法算一个加法再算一个另外除了脉动阵列还有其他模块比如激活等这些里面也有乘法、加法等。所以看看TPU1一秒钟的巅峰计算次数至少是128K X 700MHz89600Gops大约90Tops。对比一下CPU与TPU1会发现计算能力有几个数量级的差距这就是为啥说CPU慢。当然以上的数据都是完全最理想的理论值实际情况能够达到5%吧。因为芯片上的存储不够大所以数据会存储在DRAM中从DRAM取数据很慢的所以乘法逻辑往往要等待。另外AI算法有许多层网络组成必须一层一层的算所以在切换层的时候乘法逻辑又是休息的所以诸多因素造成了实际的芯片并不能达到利润的计算峰值而且差距还极大。可能有人要说搞研究慢一点也能将就用。目前来看神经网络的尺寸是越来越大参数越来越多遇到大型NN模型训练需要花几周甚至一两个月的时候你会耐心等待么突然断电一切重来曾经动手训练一个写小说的AI然后一次训练50轮需要大约一天一夜还多记得如果第一天早上开始训练需要到第二天下午才可能完成这还是模型比较简单数据只有几万条的小模型呀。修改了模型需要几个星期才能知道对错确定等得起突然有了TPU然后你发现吃个午饭回来就好了参数优化一下继续跑多么爽计算速度快才能迅速反复迭代研发出更强的AI模型。速度就是金钱。GPU的内核结构不清楚所以就不比较了。肯定的是GPU还是比较快的至少比CPU快得多所以目前大多数都用GPU这玩意随便一个都能价格轻松上万太贵而且功耗高经常缺货。不适合数据中心大量使用。总的来说CPU与GPU并不是AI专用芯片为了实现其他功能内部有大量其他逻辑而这些逻辑对于目前的AI算法来说是完全用不上的所以自然造成CPU与GPU并不能达到最优的性价比。谷歌花钱研发TPU而且目前已经出了TPU3用得还挺欢都开始支持谷歌云计算服务了貌似6点几美元每小时吧不记得单位了懒得查.可见谷歌觉得很有必要自己研发TPU。就酱。看到有答案点我名说不应该用CPU做对比这个锅我不背。做一点解释。目前在图像识别、语音识别、自然语言处理等领域精度最高的算法就是基于深度学习的传统的机器学习的计算精度已经被超越目前应用最广的算法估计非深度学习莫属而且传统机器学习的计算量与 深度学习比起来少很多所以我讨论AI芯片时就针对计算量特别大的深度学习而言。毕竟计算量小的算法说实话CPU已经很快了。而且CPU适合执行调度复杂的算法这一点是GPU与AI芯片都做不到的所以他们三者只是针对不同的应用场景而已都有各自的主场。至于为何用了CPU做对比而没有具体说GPU。是因为我说了我目前没有系统查看过GPU的论文不了解GPU的情况故不做分析。因为积累的缘故比较熟悉超标量CPU所以就用熟悉的CPU做详细比较。而且小型的网络完全可以用CPU去训练没啥大问题最多慢一点。只要不是太大的网络模型。那些AI算法公司比如旷世、商汤等他们的模型很大自然也不是一块GPU就能搞定的。GPU的算力也是很有限的。至于说CPU是串行GPU是并行。没错但是不全面。只说说CPU串行。这位网友估计对CPU没有非常深入的理解。我的回答中举的CPU是IBM的POWER8百度一下就知道这是超标量的服务器用CPU目前来看性能已经是非常顶级的了主频4GHZ。不知是否注意到我说了这是SIMD这个SIMD就代表他可以同时执行多条同样的指令这就是并行而不是串行。单个数据是128bit的如果是16bit的精度那么一周期理论上最多可以计算八组数据的乘法或加法或者乘加。这还不叫并行只是并行的程度没有GPU那么厉害而已但是这也是并行。不知道为啥就不能用CPU来比较算力有评论很推崇GPU。说用CPU来做比较不合适。拜托GPU本来是从CPU中分离出来专门处理图像计算的也就是说GPU是专门处理图像计算的。包括各种特效的显示。这也是GPU的天生的缺陷GPU更加针对图像的渲染等计算算法。但是这些算法与深度学习的算法还是有比较大的区别而我的回答里提到的AI芯片比如TPU这个是专门针对CNN等典型深度学习算法而开发的。另外寒武纪的NPU也是专门针对神经网络的与TPU类似。谷歌的TPU寒武纪的DianNao这些AI芯片刚出道的时候就是用CPU/GPU来对比的。无图无真相是吧看看谷歌TPU论文的摘要直接对比了TPU1与CPU/GPU的性能比较结果见红色框看不清没事放大。这就是摘要中介绍的TPU1与CPU/GPU的性能对比。再来看看寒武纪DianNao的paper摘要中直接就是DianNao与CPU的性能的比较见红色框回顾一下历史。上个世纪出现神经网络的时候那一定是用CPU计算的。比特币刚出来那也是用CPU在挖。目前已经进化成ASIC矿机了。比特大陆了解一下。从2006年开始开启的深度学习热潮CPU与GPU都能计算发现GPU速度更快但是贵啊更多用的是CPU而且那时候GPU的CUDA可还不怎么样后来随着NN模型越来越大GPU的优势越来越明显CUDA也越来越6目前就成了GPU的专场。寒武纪2014年的DianNaoNPU比CPU快而且更加节能。ASIC的优势很明显啊。这也是为啥要开发ASIC的理由。至于说很多公司的方案是可编程的也就是大多数与FPGA配合。你说的是商汤、深鉴么的确他们发表的论文就是基于FPGA的。这些创业公司他们更多研究的是算法至于芯片还不是重点另外他们暂时还没有那个精力与实力。FPGA非常灵活成本不高可以很快实现架构设计原型所以他们自然会选择基于FPGA的方案。不过最近他们都大力融资官网也在招聘芯片设计岗位所以应该也在涉足ASIC研发了。如果以FPGA为代表的可编程方案真的有巨大的商业价值那他们何必砸钱去做ASIC未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能互联网和脑科学交叉研究机构。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
