高安| 精河| 天峻| 乌鲁木齐| 都江堰| 临夏县| 礼县| 沧县| 木兰| 玉溪| 科尔沁左翼后旗| 鄯善| 会泽| 卫辉| 都匀| 关岭| 寿阳| 带岭| 砀山| 新县| 霞浦| 嘉善| 八宿| 原平| 莒县| 奉化| 戚墅堰| 天峨| 长兴| 泰宁| 阆中| 北宁| 拉孜| 南安| 南乐| 扬州| 斗门| 昌乐| 福清| 都昌| 雄县| 乾县| 廊坊| 公安| 涿鹿| 盐田| 四会| 科尔沁左翼后旗| 中方| 青龙| 甘南| 沙河| 承德县| 泰和| 宣化区| 彭阳| 阿鲁科尔沁旗| 永新| 全州| 台中县| 高县| 寒亭| 西沙岛| 临沧| 江津| 潮安| 宝坻| 舞阳| 金沙| 巴南| 泉州| 贡嘎| 吴川| 黄埔| 陈仓| 三明| 长寿| 江苏| 潘集| 仙游| 都昌| 开化| 墨江| 宁国| 商都| 寿光| 唐河| 台州| 彭州| 灵宝| 淮阳| 青白江| 宿州| 澧县| 北辰| 三明| 呼玛| 永仁| 六枝| 周宁| 黎平| 巴东| 科尔沁右翼中旗| 平利| 湘潭市| 洪洞| 滦南| 新乐| 宜丰| 余庆| 新民| 延津| 确山| 民权| 眉山| 萨嘎| 陆丰| 多伦| 武夷山| 乌马河| 奈曼旗| 广州| 西安| 二道江| 新安| 德阳| 罗甸| 同安| 永登| 德昌| 丰顺| 甘德| 湖州| 呼伦贝尔| 龙岩| 玛沁| 平武| 济南| 自贡| 敖汉旗| 正宁| 吴堡| 泾川| 汶上| 交口| 咸宁| 达县| 黄冈| 松桃| 昌黎| 江夏| 山东| 施秉| 盐边| 阿克苏| 佳县| 和顺| 丹棱| 呼玛| 建湖| 长治市| 鄂州| 宜章| 南木林| 广宁| 原平| 南郑| 泽州| 马祖| 保定| 河曲| 黔江| 枣庄| 呼图壁| 隰县| 远安| 宾川| 错那| 金塔| 黄梅| 廊坊| 嘉义县| 井陉| 安吉| 永平| 青岛| 会昌| 阿拉尔| 中宁| 平潭| 汾西| 威宁| 峨山| 南丰| 竹山| 喀喇沁旗| 永平| 成县| 达孜| 建水| 罗江| 谢通门| 扶风| 江安| 济南| 华安| 抚宁| 阿克塞| 沈丘| 新余| 唐河| 岚皋| 沾化| 遂昌| 揭东| 盐池| 合阳| 铁山港| 临清| 威信| 鄂州| 两当| 阳东| 扎鲁特旗| 蓬溪| 绍兴县| 姚安| 遵义县| 邵武| 马尾| 乐安| 公主岭| 济源| 奉节| 黟县| 三亚| 浚县| 伊川| 四平| 河曲| 荣成| 河口| 湾里| 崇阳| 罗江| 尼木| 芜湖市| 鄂州| 根河| 南和| 浦北| 临江| 民勤| 巍山| 荣成| 民勤| 金平| 泾县| 平南| 吴江| 浪卡子| 贵溪| 江城|

今年 郑州基本建成保障安居房6万套

2019-08-21 06:56 来源:搜搜百科

  今年 郑州基本建成保障安居房6万套

  既然皇马本场全取3分,做到了提前两轮完成晋级,C罗难得一次哑火也就没被西班牙媒体放大热议,赛后《阿斯报》与《马卡报》用了更多篇幅去赞美此役建功的本泽马。当值主裁判果断判罚点球,并将最后一名防守者贝纳蒂亚罚下!阿圭罗亲自主罚他制造的点球,他的点球虽然被诺伊尔判断对了方向,但是胜在角度够刁仍然破门,曼城1-0拜仁。

新赛季各项赛事19场比赛,切尔西依旧不败,胜率接近8成,放眼欧洲主流联赛球队,独此一家!  开场仅85秒,切尔西就闪电破门。  A组:马竞提前出线,尤文形势大好  马德里竞技在大胜奥林匹亚科斯后已经提前一轮获得出线权,而马尔默负于尤文图斯后则失去晋级资格。

  第34分钟,博格巴禁区前沿趟球闪过米兰达,弧线球兜射球门远角稍偏。2018年04月26日07:11央视网消息:北京时间4月26日2时45分(德国当地时间25日20时45分),欧冠半决赛首回合又赛1场,皇马客场2比1逆转拜仁,欧冠对拜仁6连胜。

  除此之外,奥斯卡在硬度和速度方面,甚至比皮尔洛还要强悍。  上轮联赛皇马3-0大胜塞尔塔,C罗上演帽子戏法,本赛季西甲进球数达到23个。

在离队四年半之后,伊布终于在诺坎普再度破门。

    交锋历史:尤文优势明显  两队曾经在欧冠及欧联赛场8次交手,尤文5胜2平1负占据上风,进18球丢6球。

    北京时间11月27日凌晨3点45分(欧洲当地时间26日19时45分),本赛季欧冠小组赛B组进行第5轮较量,利物浦远赴客场挑战卢多戈里耶。现在又有很多的伤病,因此对于我们来说,真的非常艰难。

  第23分钟,桑切斯直传,维尔贝克禁区左侧被姆贝巴撞倒,裁判吹罚点球,阿尔特塔主罚点球骗过门将破门,1-0,阿森纳取得领先。

    利亚伊奇在替补席上怒砸水瓶,或许在懊恼他错失良机。C罗代表曼联总计跟利物浦在安菲尔德球场有过5次交手,4次发生在英超,1次发生在足总杯1/8决赛,尽管曼联取得了3胜1平1负的成绩,可利物浦的大门却从未被C罗洞穿。

  米尼奥莱面对8万伯纳乌球迷的阵势,C罗、本泽马、J罗的超强攻击组合,替补席上还有刚刚伤愈复出的贝尔。

    2011年多特蒙德夺得德甲冠军,2012年再次力压拜仁,夺取德甲和德国杯双冠王,2013年进入欧冠决赛,成绩斐然。

  拜仁总比分2比1晋级四强。同时缺席了上周末联赛的科斯切尔尼,本场也将高挂免战牌,温格说:他有90%的可能不打这场。

  

  今年 郑州基本建成保障安居房6万套

 
责编:
您正在使用IE低版浏览器,为了您的雷锋网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
雷锋网 读懂智能&未来
人工智能 正文
发私信给程弢
发送

0

谷歌硬件工程师揭秘,TPU为何会比CPU、GPU快30倍?

本文作者:程弢 2019-08-21 14:03
导语:从这次发布的测试结果来看,TPU似乎已经超出了业界的预期,但是藏在这一芯片背后的内部架构究竟有什么秘密呢,我们从Jouppi此前发布的论文当中,可以找到答案。
  但我也坚持认为,只要我们专注工作,我们就肯定可以扭转局面。

谷歌硬件工程师揭秘,TPU为何会比CPU、GPU快30倍?

在谷歌发布TPU一年后,这款机器学习定制芯片的神秘面纱终于被揭开了。

昨日,谷歌资深硬件工程师Norman Jouppi刊文表示,谷歌的专用机器学习芯片TPU处理速度要比GPU和CPU快15-30倍(和TPU对比的是英特尔Haswell CPU以及Nvidia Tesla K80 GPU),而在能效上,TPU更是提升了30到80倍。

从这次发布的测试结果来看,TPU似乎已经超出了业界的预期,但是藏在这一芯片背后的内部架构究竟有什么秘密呢,我们从Jouppi此前发布的论文当中,可以找到答案。

据雷锋网(公众号:雷锋网)了解,早在四年前,谷歌内部就开始使用消耗大量计算资源的深度学习模型,这对CPU、GPU组合而言是一个巨大的挑战,谷歌深知如果基于现有硬件,他们将不得不将数据中心数量翻一番来支持这些复杂的计算任务。

所以谷歌开始研发一种新的架构,Jouppi称之为“下一个平台”。Jouppi曾是MIPS处理器的首席架构师之一,他开创了内存系统中的新技术。三年前他加入谷歌的时候,公司上下正在用CPU、GPU混合架构上来进行深度学习的训练。

Jouppi表示,谷歌的硬件工程团队在转向定制ASIC之前,早期还曾用FPGA来解决廉价、高效和高性能推理的问题。但他指出,FPGA的性能和每瓦性能相比ASIC都有很大的差距。他解释说,“TPU可以像CPU或GPU一样可编程,它可以在不同的网络(卷积神经网络,LSTM模型和大规模完全连接的模型)上执行CISC指令,而不是为某个专用的神经网络模型设计的。一言以蔽之,TPU兼具了CPU和ASIC的有点,它不仅是可编程的,而且比CPU、GPU和FPGA拥有更高的效率和更低的能耗。

TPU的内部架构

谷歌硬件工程师揭秘,TPU为何会比CPU、GPU快30倍?

该图显示了TPU上的内部结构,除了外挂的DDR3内存,左侧是主机界面。指令从主机发送到队列中(没有循环)。这些激活控制逻辑可以根据指令多次运行相同的指令。

TPU并非一款复杂的硬件,它看起来像是雷达应用的信号处理引擎,而不是标准的X86衍生架构。Jouppi说,尽管它有众多的矩阵乘法单元,但是它GPU更精于浮点单元的协处理。另外,需要注意的是,TPU没有任何存储的程序,它可以直接从主机发送指令。

TPU上的DRAM作为一个单元并行运行,因为需要获取更多的权重以馈送到矩阵乘法单元(算下来,吞吐量达到了64,000)。Jouppi并没有提到是他们是如何缩放(systolic)数据流的,但他表示,使用主机软件加速器都将成为瓶颈。

谷歌硬件工程师揭秘,TPU为何会比CPU、GPU快30倍?

256×256阵列缩放数据流引擎,经过矩阵乘法积累后实现非线性输出

从第二张图片可以看出,TPU有两个内存单元,以及一个用于模型中参数的外部DDR3 DRAM。参数进来后,可从顶部加载到矩阵乘法单元中。同时,可以从左边加载激活(或从“神经元”输出)。那些以收缩的方式进入矩阵单元以产生矩阵乘法,它可以在每个周期中进行64,000次累加。

毋庸置疑,谷歌可能使用了一些新的技巧和技术来加快TPU的性能和效率。例如,使用高带宽内存或混合3D内存。然而,谷歌的问题在于保持分布式硬件的一致性。

TPU对比Haswell处理器

在和英特尔“Haswell”Xeon E5 v3处理器来的对比中,我们可以看到,TPU各方面的表现都要强于前者。

在Google的测试中,使用64位浮点数学运算器的18核心运行在2.3 GHz的Haswell Xeon E5-2699 v3处理器能够处理每秒1.3 TOPS的运算,并提供51GB/秒的内存带宽;Haswell芯片功耗为145瓦,其系统(拥有256 GB内存)满载时消耗455瓦特。

相比之下,TPU使用8位整数数学运算器,拥有256GB的主机内存以及32GB的内存,能够实现34GB/秒的内存带宽,处理速度高达92 TOPS ,这比Haswell提升了71倍,此外,TPU服务器的热功率只有384瓦。

谷歌硬件工程师揭秘,TPU为何会比CPU、GPU快30倍?

除此之外,谷歌还测试了CPU、GPU和TPU处理不同批量大小的每秒推断的吞吐量。

谷歌硬件工程师揭秘,TPU为何会比CPU、GPU快30倍?

如上图所示,在小批量任务中(16),Haswell CPU的响应时间接近7毫秒,其每秒提供5482次推断(IPS),其可以实现的最大批量任务(64)每秒则可以完成13194次推断,但其响应时间为21.3毫秒。相比之下,TPU可以做到批量大小为200,而响应时间低于7毫秒,并提供225000个IPS运行推理基准,是其峰值性能的80%,当批量大小为250,响应时间为10毫秒。

不过需要注意的是,谷歌所测试的Haswell Xeon处理器似乎也不能完全说明问题,英特尔Broadwell Xeon E5 v4处理器和最新的“Skylake”Xeon E5,每核心时钟(IPC)的指令比这款处理器提升了约5%。在Skylake是28核,而Haswell为18核,所以Xeon的总体吞吐量可能会上升80%。当然,这样的提升与TPU相比仍有差距。

最后雷锋网需要强调的是,TPU是一个推理芯片,它并非是要取代GPU,可以确定的是,TPU与CPU一起使用对训练分析更加有益。但对于CPU制造商而言,如何研发出像ASIC一样兼顾性能和能效的芯片是现在以及未来要做的。

可以确定的是,谷歌已经逐渐在自己的数据中心部署TPU,但是上述测试数据只是理论结果,实际应用表现如何?我们还不得而知。

Via nextplatform,雷锋网编译

雷锋网版权文章,未经授权禁止转载。详情见转载须知

谷歌硬件工程师揭秘,TPU为何会比CPU、GPU快30倍?
分享:
相关文章

文章点评:

表情

略懂技术的小编

关注一切有未来感的产品及技术!
当月热门文章
最新文章
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
宾川县 石狮市卫生局 众议院夹道 临川县 桃源乡
棕溪镇 东山寺 老李坑 上钢三村 阴田乡