IT之家 2024年09月25日
英特尔发布至强 6 性能核“Granite Rapids”处理器与 Gaudi 3 AI 加速器
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

英特尔发布至强6性能核“Granite Rapids”处理器与Gaudi 3 AI加速器。至强6性能核处理器包含多种系列,Gaudi 3 AI加速器针对大规模生成式AI优化,性能优越。

🧠英特尔发布至强6性能核“Granite Rapids”处理器,其中6900P系列有5款产品,核心数从72到128不等,包含计算模块和I/O模块,配备内存通道,仅支持双路扩展,提供PCIe链路,未来还将推出其他系列产品。

🚀Gaudi 3 AI加速器专门为大规模生成式AI进行优化,拥有64个TPC张量处理器核心和8个矩阵乘法引擎MME,配备128GB HBM2e内存和24个200Gb以太网接口,在LLaMa 2 70B开源LLM推理上表现出色。

💪英特尔宣称Gaudi 3加速器相较英伟达H100 Tensor Core GPU,在LLaMa 2 70B开源LLM推理上吞吐量高出最多20%,性价比可达前者2倍。

IT之家 9 月 25 日消息,英特尔当地时间昨日发布了至强 6 性能核“Granite Rapids”处理器与 Gaudi 3 AI 加速器。

英特尔此次同步推出了至强 6 性能核处理器中的 6900P 系列,即“Granite Rapids-AP”家族,共包含 5 款产品,从最低的 72 核心至强 6960P 到最高 128 核心的至强 6980P。

这些 CPU 均包含 3 个基于 Intel 3 的计算模块和 2 个基于 Intel 7 的 I/O 模块,配备 12 条内存通道,兼容 6400MT/s 标准 DDR5 与 8800MT/s MRDIMM。至强 6900P 处理器均仅支持双路扩展,提供 96 条 PCIe 链路。

IT之家了解到,除采用 UCC 核心设计的至强 6900P 外,英特尔还准备了最多双计算模块 86 核的 XCC、最多单计算模块 48 核的 HCC、最多单计算模块 16 核的 LCC。

而在至强 6 产品线上,英特尔计划在明年一季度推出性能核系列的至强 6700P、至强 6500P、至强 6 SoC、至强 6300P,以及能效核系列的至强 6900E。

Gaudi 3 AI 加速器专门针对大规模生成式 AI 进行了优化,拥有用于加速深度神经网络计算的 64 个 TPC 张量处理器核心和 8 个矩阵乘法引擎 MME,并配备 128GB HBM2e 内存和 24 个 200Gb 以太网接口。

英特尔宣称,相较英伟达 H100 Tensor Core GPU,其 Gaudi 3 加速器在 LLaMa 2 70B 开源 LLM 推理上吞吐量高出最多 20% 的同时性价比可达前者 2 倍。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

英特尔 至强6处理器 Gaudi 3 AI加速器 生成式AI
相关文章