谷歌AI芯片打平英伟达，最高配每秒42500000000000000000次运算

liukang20242个月前 (05-06)正能量吃瓜1072

梦晨发自凹非寺量子位 | 大众号 QbitAI

谷歌首款AI推理特化版TPU芯片来了，专为深度考虑模型打造。

代号Ironwood，也便是TPU v7，FP8峰值算力4614TFlops，功能是2017年第二代TPU的3600倍，与2023年的第五代TPU比也有10倍。

（为什么不比照第六代，咱也不知道，咱也不敢问。）

第七代TPU还杰出高扩展性，最高配集群可具有9216个液冷芯片，峰值算力42.5 ExaFlops，也便是每秒运算42500000000000000000次。

是现在全球最强超级核算机EL Capitan的24倍。

谷歌称，AI正从呼应式（供给实时信息供人类解读）提高为能够自动生成洞悉和解读的提高。

在推理送行，Agent将自动检索和生成数据，以协作的方法供给洞悉和答案，而不仅仅是数据。

而完成这一点，正需求一起满意巨大的核算和通讯需求的芯片，以及软硬协同的规划。

谷歌AI芯片的软硬协同

深度考虑的推理模型，以DeepSeek-R1和谷歌的Gemini Thinking为代表，现在都是选用MoE（混合专家）架构。

跌倒激活参数量相对少，但总参数量巨大，这就需求大规划并行处理和高效的内存拜访，核算需求远远超出了任何单个芯片的容量。

（o1遍及猜想也是MoE，可是OpenAI他不open啊，所以没有商店。）

谷歌TPU v7的规划思路，是在履行大规划张量操作的一起最大极限地削减芯片上的数据移动和推迟。

与上一代TPU v6比较，TPU v7的高带宽内存 (HBM) 容量为192GB，是上一代的6倍，一起单芯片内存带宽提升到7.2 TBps，是上一代的4.5倍。

TPU v7体系还具有低推迟、高带宽的ICI（芯片间通讯）网络，支撑全集群规划的和谐同步通讯。双向带宽提升至1.2 Tbps，是上一代的1.5倍。

能效方面，TPU v7每瓦功能也是上一代的两倍。

硬件介绍完，接下来看软硬协同部分。

TPU v7装备了增强版SparseCore ，这是一款用于处理高档排序和引荐作业负载中常见的超大嵌入的数据流处理器。

TPU v7还支撑Google DeepMind开发的机器学习运行时Pathways，能够跨多个TPU芯片完成高效的分布式核算。

谷歌计划在不久的将来把TPU v7整合到谷歌云AI超算，支撑支撑抒发引荐算法、Gemini模型以及AlphaFold在内的事务。

网友：英伟达压力山大了

看过谷歌最新TPU发布，谈论区网友纷繁at英伟达。

有人称假如谷歌能以更低的价格供给AI模型推理服务，英伟达的赢利将遭到严重威胁。

还有人直接at各路AI机器人，问询这款芯片比照英伟达B200表达。

简略比照一下，TPU v7的FP8算力4614 TFlops，比B200标称的4.5 PFlops（=4500 TFlops）略高。内存带宽7.2TBps，比英伟达B200的8TBps稍低一点，是根本能够对标的两款产品。

实际上除了谷歌之外，还有两个云核算大厂也在搞自己的推理芯片。

亚马逊的Trainium、Inferentia和Graviton芯片我们现已比较了解了，微软的MAIA 100芯片也能够经过Azure云拜访。

AI芯片的竞赛，越来越剧烈了。

参阅链接：[1]https://blog.google/products/google-cloud/ironwood-tpu-age-of-inference/[2]https://x.com/sundarpichai/status/1910019271180394954

告发/反应

标签: 打平 AI 伟达 42500000000000000000 芯片

返回列表

上一篇：谢霆锋否定与王菲分手：别时不时拿我俩来搞

下一篇：谢霆锋发布演唱会歌单，将再唱与王菲定情曲《玉蝴蝶》，此前门票被炒至17万元

「WCBA总决赛·前瞻」首战即决战！广东女篮盼在主场发明惊喜

4月5日19时30分，2024至2025赛季WCBA总决赛就将摆开帷幕，时隔六年再进总决赛的广东东莞新彤盛女篮坐镇主场东莞大朗体育馆迎来卫冕冠军四川女篮的应战。和具有韩旭、李梦、王思雨等国手，在本赛季...

伊朗港口爆破已形成至少5死700伤

新华社德黑兰4月26日电(记者陈霄沙达提)据伊朗法尔斯通讯社26日报导,该国霍尔木兹甘省阿巴斯市沙希德拉贾伊港当天产生的爆破事情已形成5人逝世、至少700人受伤。报导征引霍尔木兹甘省危机办理部担任人...

冯绍峰拍《知否》慨叹：才知道本来婚姻生活是这样

赵丽颖冯绍峰协作《知否》据台湾媒体报道，赵丽颖与冯绍峰2018年10月宣告成婚，本年元旦冯绍峰先在微博写下“知否知否，应是一家三口”，赵丽颖也回复“等候等候，恭迎2019”，正式宣告晋级当爸妈的好消息...

成品人a免费直接入口 - 成品人a免费直接入口老版下载V2025年7月2日

　　据四川省政府官网介绍，四川是国家系统推进全面创新改革试验的八个区域之一，拥有中国（四川）自由贸易试验区、成都国家自主创新示范区、天府新区、绵阳科技城、攀西战略性资源创新开发试验区等多个...

修改 | 袁斯来杨轩

假如你在2023年前往墨西哥，能顺畅经过海关入境，已是一件幸事。

Randol说不清自己算命运好仍是糟。他安全抵达了意图地——墨西哥新莱昂州首府蒙特雷，但是行李简直全丢了，只剩下身上的衣服，和仅装有一台笔记本电脑的空瘪背包。

墨西哥签证一贯棘手，Randol不得不曲线入境。2023年春节前夕，他拿到为期20天的挪威申根签，当即起程，在挪威逗留四五天后，经德国起色飞往墨西哥城。

为了尽或许顺畅入境，Randol提早做了预备。他找好相关中介公司，向某个声称来自“海关的人”支付过4000美元。对方特意吩咐他：你就说是来旅行的。

在墨城入境窗口，Randol照着“海关的人”的指示答复，没想到海关人员直接辩驳他：你别说谎了，一看便是偷渡美国的。

随即他被带去“小黑屋”。房间里现已被塞进三、四十个人，显得有些拥堵。他看到不少东亚面孔，有人奉告他，最近“走线”（不合法越境）越来越多，说过来旅行的人，许多会被扣下。Randol就此想好了接下来的应对战略：实话实说。

4小时后，他见到了进一步前来问询的海关官员，奉告对方，自己是姑苏瑞可达集团公司的墨西哥区域总司理，是来落地分公司和出资建厂的。海关看过邀请函，以及其他一系列个人信息资料，打了几个电话核实状况后，Randol在清晨一两点总算被放行。

清晨6点，他登上去往蒙特雷的飞机，孤苦伶仃抵达意图地。

没有时间留给他寻觅自己的行李，刚一安排，他就和几周后抵达的别的三位工程师着手组成团队。从租地建厂到正式投产，他们仅用了半年左右时间。比照其他过来一年之余还没折腾完流程的公司，他们算是我国制作企业来到墨西哥后，较为灵敏的选手。

我国工厂远征墨西哥，在掠夺、盗窃、内斗中寻觅期望｜深氪

作者 | 周倩修改 | 袁斯来杨轩假如你在2023年前往墨西哥，能顺畅经过海关入境，已是一件幸事。Randol说不清自己算命运好仍是糟。他安全抵达了意图地——墨西哥新莱昂州首府蒙特雷，但是行李简直全...

拜登卸职后初次宣布揭露说话痛斥特朗普：不到100天，形成如此巨大的危害和损坏

美国前总统拜登当地时间15日宣布卸职后的初次揭露说话，他在说话中批评了特朗普政府造成了“如此巨大的危害和损坏”。“在不到100天的时间里，新政府造成了如此巨大的危害和损坏。这令人震惊。”拜登还强调了维...

友情链接：

51今日吃瓜网