谷歌AI芯片打平英伟达，最高配每秒42500000000000000000次运算

liukang20243个月前 (05-06)正能量吃瓜1087

梦晨发自凹非寺量子位 | 大众号 QbitAI

谷歌首款AI推理特化版TPU芯片来了，专为深度考虑模型打造。

代号Ironwood，也便是TPU v7，FP8峰值算力4614TFlops，功能是2017年第二代TPU的3600倍，与2023年的第五代TPU比也有10倍。

（为什么不比照第六代，咱也不知道，咱也不敢问。）

第七代TPU还杰出高扩展性，最高配集群可具有9216个液冷芯片，峰值算力42.5 ExaFlops，也便是每秒运算42500000000000000000次。

是现在全球最强超级核算机EL Capitan的24倍。

谷歌称，AI正从呼应式（供给实时信息供人类解读）提高为能够自动生成洞悉和解读的提高。

在推理送行，Agent将自动检索和生成数据，以协作的方法供给洞悉和答案，而不仅仅是数据。

而完成这一点，正需求一起满意巨大的核算和通讯需求的芯片，以及软硬协同的规划。

谷歌AI芯片的软硬协同

深度考虑的推理模型，以DeepSeek-R1和谷歌的Gemini Thinking为代表，现在都是选用MoE（混合专家）架构。

跌倒激活参数量相对少，但总参数量巨大，这就需求大规划并行处理和高效的内存拜访，核算需求远远超出了任何单个芯片的容量。

（o1遍及猜想也是MoE，可是OpenAI他不open啊，所以没有商店。）

谷歌TPU v7的规划思路，是在履行大规划张量操作的一起最大极限地削减芯片上的数据移动和推迟。

与上一代TPU v6比较，TPU v7的高带宽内存 (HBM) 容量为192GB，是上一代的6倍，一起单芯片内存带宽提升到7.2 TBps，是上一代的4.5倍。

TPU v7体系还具有低推迟、高带宽的ICI（芯片间通讯）网络，支撑全集群规划的和谐同步通讯。双向带宽提升至1.2 Tbps，是上一代的1.5倍。

能效方面，TPU v7每瓦功能也是上一代的两倍。

硬件介绍完，接下来看软硬协同部分。

TPU v7装备了增强版SparseCore ，这是一款用于处理高档排序和引荐作业负载中常见的超大嵌入的数据流处理器。

TPU v7还支撑Google DeepMind开发的机器学习运行时Pathways，能够跨多个TPU芯片完成高效的分布式核算。

谷歌计划在不久的将来把TPU v7整合到谷歌云AI超算，支撑支撑抒发引荐算法、Gemini模型以及AlphaFold在内的事务。

网友：英伟达压力山大了

看过谷歌最新TPU发布，谈论区网友纷繁at英伟达。

有人称假如谷歌能以更低的价格供给AI模型推理服务，英伟达的赢利将遭到严重威胁。

还有人直接at各路AI机器人，问询这款芯片比照英伟达B200表达。

简略比照一下，TPU v7的FP8算力4614 TFlops，比B200标称的4.5 PFlops（=4500 TFlops）略高。内存带宽7.2TBps，比英伟达B200的8TBps稍低一点，是根本能够对标的两款产品。

实际上除了谷歌之外，还有两个云核算大厂也在搞自己的推理芯片。

亚马逊的Trainium、Inferentia和Graviton芯片我们现已比较了解了，微软的MAIA 100芯片也能够经过Azure云拜访。

AI芯片的竞赛，越来越剧烈了。

参阅链接：[1]https://blog.google/products/google-cloud/ironwood-tpu-age-of-inference/[2]https://x.com/sundarpichai/status/1910019271180394954

告发/反应

标签: 打平 AI 伟达 42500000000000000000 芯片

返回列表

上一篇：谢霆锋否定与王菲分手：别时不时拿我俩来搞

下一篇：谢霆锋发布演唱会歌单，将再唱与王菲定情曲《玉蝴蝶》，此前门票被炒至17万元

　　据了解，小红书明确提出撤销竞业。全员信称，“咱们期望点亮一盏小灯，向环境宣告不一样的信号——不再经过竞业约束个别活动，仅要求同学实行信息保密和不吸引责任，与我们树立更长时间的联系。”

　　全员信还发布别的两项改变，小红书职工在离任时期权可申请回购；撤销隔周周六作业的组织。这两项改变也将于5月1日起收效。小红书产品的特质是“人matters”，公司也信任一同前行的同伴是自驱且优异的。面向未来的应战，公司尊重职工“挑选在哪里作业的自在”“与广阔的小红书人共享公司生长的价值”，并“鼓舞我们找到最能发挥自己创造力的作业方法与节奏”。

　　大小周是一种歇息方法，是指一个星期上六天班（只歇息星期天一天），接着一个星期上五天班（歇息星期六和星期天两天），如此单双休循环。曾被互联网企业广泛选用。此前，快手、字节跳动等均宣告撤销大小周。

　　材料显现，小红书由毛文超和瞿芳于2013年在上海创建。小红书用户能够经过短视频、图文等方式记载日子点滴，共享日子方法，并根据爱好构成互动。到2019年10月，小红书月活泼用户数现已过亿，其间70%用户是90后，并持续快速增长。（来历：经济参阅网）

　　附：小红书全员信

小红书回应“将撤销大小周”：五一之后履行

[新闻页-台海网]　　近两日，“小红书将撤销大小周”登上微博热搜，据多家媒体报道，小红书宣告撤销大小周，五一假日之后实行。对此，《经济参阅报》记者与小红书相关负责人取得联系，小红书回应称，4月24日，...

暖心治愈的正能量励志句子送给正在努力奋斗事业的人正能量语录

　　竹子用了4年的时间,仅仅长了3cm,在第五年开始,以每天30cm的速度疯狂的生长,仅仅用了六周的时间就长到了15米。其实，在前面的四年，竹子将根在土壤里延伸了数百平米，做人做事亦是如此...

一季度增加超预期，华住集团的长时间生态布局

2024年以来，文旅商场连续了上一年全面复苏的态势。据文明和旅行部发布的数据闪现，2024年一季度，国内出游人次14.19亿，比上年同期添加2.03亿，同比添加16.7%；国内游客出游总花费1.52万...

同样是亚冠外战取胜，泰山队力克马来超十冠王的潜力为何如此巨大

泰山与海港的足协杯之争刚刚落下帷幕，不管高兴或是惋惜，两支球队都不得不无缝切换外战形式，一起代表中超联赛持续奔赴亚冠精英赛场。山东泰山1-0力克柔佛新山，泽卡攻入取胜进球。图/VCG【1】绊倒上海双雄...

“王”者归来！王楚钦连胜，中国队80拿下印度

封面新闻记者陈羽啸拍照报导一个美丽的反手拧拉，王楚钦再次扮演了完结者的人物！12月2日，在成都举办的乒乓球混团国际杯上，王楚钦以11-5和11-9拿下两局，打败印度选手斯内希特·苏拉瓦朱拉，为我国...

为了让机器人跑起来，人类用了60年

4月19日，北京亦庄举办了全球首个人形机器人半程马拉松竞赛。在这近 21.1公里的赛道上，数万名人类选手和人形机器人将一同奋力奔驰。这场竞赛，是人类与机械，体育与科技的交融。尽管赛场上的人形机器人成果...

友情链接：

51今日吃瓜网