Google在Cloud Next大会上推出了第七代TPU芯片Ironwood，这款芯片专为AI推理优化。Ironwood预计今年晚些时候向Google云客户提供，提供256和9216芯片集群两种配置。Google Cloud副总裁Amin Vahdat表示，Ironwood是迄今为止功能最强大、性能最强、最节能的TPU，专为大规模AI模型推理设计。该芯片在AI加速器领域竞争加剧的背景下发布，对标英伟达等巨头。根据内部测试，Ironwood峰值计算能力达4614 TFLOP，每块芯片配备192GB RAM，带宽接近7.4 Tbps。

🚀 Ironwood是Google第七代TPU，也是首款针对AI推理优化的芯片，计划于今年晚些时候面向Google云客户推出，提供两种配置：256芯片集群和9216芯片集群。

💡 Ironwood的出现正值人工智能加速器领域竞争日趋激烈之际，英伟达、亚马逊和微软等科技巨头都在积极推广各自的内部解决方案。Google内部基准测试显示，Ironwood的峰值计算能力可达4614 TFLOP。

💾 Ironwood每块芯片配备192GB的专用RAM，带宽接近7.4 Tbps。它拥有一个增强型专用核心SparseCore，用于处理“高级排名”和“推荐”工作负载中常见的数据类型。

⚡ Google表示，TPU的架构旨在最大限度地减少芯片上的数据移动和延迟，从而节省功耗。Google计划在不久的将来将Ironwood与其AI超级计算机相结合。

在本周的Cloud Next大会上，Google发布了最新一代TPU AI加速器芯片。这款名为 Ironwood 的新芯片是Google的第七代 TPU，也是首款针对推理（即运行 AI 模型）进行优化的芯片。Ironwood 计划于今年晚些时候面向Google云客户推出，将提供两种配置：256 芯片集群和 9216 芯片集群。

Google Cloud 副总裁 Amin Vahdat 在博客文章中写道：“Ironwood 是我们迄今为止功能最强大、性能最强、最节能的 TPU。它专为大规模支持思考和推理 AI 模型而设计。”

Ironwood 的出现正值人工智能加速器领域竞争日趋激烈之际。英伟达或许占据领先地位，但包括亚马逊和微软在内的科技巨头也在积极推广各自的内部解决方案。亚马逊拥有Trainium、Inferentia和Graviton处理器，可通过 AWS 提供，微软则为其 Cobalt 100 人工智能芯片在 Azure 上托管实例。

根据Google的内部基准测试，Ironwood 的峰值计算能力可达 4614 TFLOP。每块芯片配备 192GB 的专用 RAM，带宽接近 7.4 Tbps。

Ironwood 拥有一个增强型专用核心 SparseCore，用于处理“高级排名”和“推荐”工作负载中常见的数据类型（例如，推荐你可能喜欢的服装的算法）。Google表示，TPU 的架构旨在最大限度地减少芯片上的数据移动和延迟，从而节省功耗。

Vahdat 补充道，Google计划在不久的将来将 Ironwood 与其 AI 超级计算机（Google云中的模块化计算集群）相结合。Ironwood 代表了推理时代的独特突破，它具有更强的计算能力、内存容量、网络进步和可靠性。”