最新-新浪科技科学探索 2024年08月27日
NVIDIA首秀Blackwell GB200超级芯片系统:AI推理性能飙升1.5倍
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

NVIDIA虽未确认Blackwell架构新一代GPU推迟供货,但展示了基于GB200 GPU+GPU超级芯片的服务器系统,介绍了其性能、配置、散热等情况。

🎯GB200 Grace Blackwell包括两颗B200 GPU、一颗Grace CPU,总功耗高达2700W。B200拥有2040亿个晶体管、8096-bit 192GB HBM3E内存,性能达9PFlops,功耗达1000W。

🎯NVIDIA展示的服务器外观独特,排线、铜管、散热片组成庞然大物。服务器分为有无NVSwitch两种版本,总带宽高达14.4TB/s。Llama 3.1 700亿参数大模型的AI推理性能对比H200提高1.5倍。

🎯NVIDIA正在开发热水散热系统,可减少耗电量28%,但未给出Blackwell GPU服务器出货时间,预计今年第四季度。Hot Chip 2024大会上,NVIDIA将详细讲解Blackwell GPU等内容。

此前有消息称,NVIDIA Blackwell架构的新一代GPU推迟供货,但是官方没有承认,也没有否认,而是默默拿出了一套基于新一代GB200 GPU+GPU超级芯片的服务器系统,展示了一番。

GB200 Grace Blackwell包括两颗B200 GPU、一颗Grace CPU,总功耗高达2700W。

其中,B200拥有2040亿个晶体管、8096-bit 192GB HBM3E内存(带宽8TB/s),性能达到9PFlops(每秒9千万亿次),功耗首次达到1000W。

NVIDIA展示的服务器犹如一件艺术品,一条条蓝色和铜色排线,大量超粗直径铜管,超大体积的散热片,组成了一个庞然大物。

NVIDIA没有透露具体配置,只说分为有无NVSwitch两种版本,其总带宽高达14.4TB/s。

性能方面只给出了一个数据:Llama 3.1 700亿参数大模型的AI推理性能对比H200提高了足足1.5倍。

散热怎么办?NVIDIA透露正在开发热水散热系统,可以将耗电量减少28%。

不过,NVIDIA仍然没有给出Blackwell GPU服务器的出货时间,估计在今年第四季度。

即将到来的Hot Chip 2024大会上,NVIDIA会详细讲解Blackwell GPU,还会进一步披露未来Vera CPU、Rubin GPU的消息。

【本文结束】如需转载请务必注明出处:快科技

责任编辑:上方文Q

文章内容举报

]article_adlist-->

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

NVIDIA GPU服务器 散热系统 AI推理性能
相关文章