Cnbeta 2024年12月23日
NVIDIA GB300"Blackwell Ultra"将配备288 GB HBM3E显存、1400W TDP
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

英伟达正加速推进其“Blackwell Ultra”计划,即将推出GB300 AI服务器。该服务器将搭载B300 GPU芯片,功耗高达1400W,FP4性能较B200提升1.5倍。内存方面,每块GPU配备288GB HBM3e内存,采用12层堆栈架构。GB300在冷却、网络、电源管理等方面均有显著升级,包括采用先进的水冷板、ConnectX 8网卡、1.6T光模块以及标准化的电容托盘和可选电池备份系统。此外,GB300还引入LPCAMM内存,预示着该标准将在服务器领域普及。

🚀B300 GPU芯片:GB300核心采用B300 GPU,功耗1400W,FP4性能较B200提升1.5倍,性能显著增强。

💾HBM3e内存升级:每块GPU配备288GB HBM3e内存,采用12层堆栈架构,内存容量和性能大幅提升,超越GB200的192GB。

🧊散热与网络优化:采用先进水冷板和增强型UQD,升级ConnectX 8网卡,光模块升级至1.6T,数据传输速度更快。

🔋电源管理与可靠性:GB300 NVL72机柜采用标准化的电容托盘,可选配电池备份单元(BBU),提高系统可靠性。

💡LPCAMM内存引入:计算板上引入LPCAMM,预示LPCAMM内存标准将在服务器领域普及,取代传统内存。

NVIDIA"Blackwell"系列的 B100、B200 和 GB200 芯片刚刚出货给 OEM 和超大规模厂商,但NVIDIA已经开始实施其升级版"Blackwell Ultra"计划,即将推出 GB300 AI 服务器。 据 UDN 报道,下一代英伟达系统将由 B300 GPU 芯片驱动,运行功耗为 1400 W,与前代 B200 相比,每块卡的 FP4 性能提高了 1.5 倍。

最明显的升级是内存配置,现在每块 GPU 都配备了 288 GB HBM3e 内存,比之前的 192 GB GB200 内存大幅增加。 新设计采用了 12 层堆栈架构,比 GB200 的 8 层配置更先进。 该系统的冷却基础架构经过了全新设计,在液体冷却系统中采用了先进的水冷板和增强型 UQD。

网络功能也得到了大幅升级,ConnectX 8 网卡取代了之前的 ConnectX 7 代网卡,而光模块则从 800G 升级到了 1.6T,确保了更快的数据传输。 在电源管理和可靠性方面,GB300 NVL72 机柜将采用标准化的电容托盘,并可选配电池备份单元(BBU)系统。 每个 BBU 模块的制造成本约为 300 美元,整个 GB300 系统的 BBU 配置总价约为 1500 美元。 

该系统对超级电容器的需求同样巨大,每个 NVL72 机架需要超过 300 个,由于其高功率特性,生产过程中的单价在 20-25 美元之间。 搭载 Grace CPU 和 Blackwell Ultra GPU 的 GB300 还在其计算板上引入了 LPCAMM,这表明 LPCAMM 内存标准即将取代服务器,而不仅仅是笔记本电脑和台式机。


Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

GB300 B300 GPU HBM3e LPCAMM AI服务器
相关文章