英伟达CEO黄仁勋在台北电脑展开场演讲中,正式发布了全新设计的企业级AI、工业级AI计算平台——RTX PRO服务器。该服务器配备八块RTX PRO 6000 Blackwell服务器版专业显卡,每张卡均采用GB202芯片,拥有24064个CUDA核心和96GB GDDR7显存。整机性能极为强大,FP4数据格式下的AI性能高达30PFlops,图形渲染性能也有3PFlops,能够轻松运行各种AI大模型。众多OEM、ODM合作伙伴将陆续推出基于该平台的服务器产品。
🖥️ RTX PRO服务器定位企业级和工业级AI计算平台,配备多达八块RTX PRO 6000 Blackwell服务器版专业显卡,单卡拥有24064个CUDA核心和96GB GDDR7显存,总计接近20万个核心和800GB显存。
🚀 八块显卡通过ConnectX-8 SuperNIC Switch连接,全向带宽高达800GB/s,确保数据传输无瓶颈。整机功耗超过5000W,体现了其强大的性能需求。
💡 RTX PRO服务器在FP4数据格式下的AI性能高达30PFlops,图形渲染性能也有3PFlops,为运行各种AI大模型提供了强大的算力支持。
🤝 包括思科、戴尔、慧与、联想、华硕等众多OEM、ODM合作伙伴将陆续推出基于RTX PRO服务器的产品,预示着该平台将在AI计算领域得到广泛应用。
台北电脑展开场演讲,NVIDIA CEO黄仁勋尽情畅谈AI,并首次宣布了全新设计的“RTX PRO服务器”,定位企业级AI、工业级AI计算平台。它配备了多达八块最新的RTX PRO 6000 Blackwell服务器版专业显卡,均采用GB202芯片,配备24064个CUDA核心、512-bit 96GB GDDR7显存。

合计就是几乎20万个核心、800GB显存,显存带宽高达13TB/s!
八块显卡通过ConnectX-8 SuperNIC Switch连接在一起,全向带宽800GB/s,不存在传输瓶颈。
单卡功耗600W,总计就是48000W,再加上CPU处理器(具体不详)和其他各种元件,整机功耗将超过5000W。


性能自然是极为恐怖的,FP4数据格式下的AI性能高达30PFlops(每秒3亿亿次),图形渲染性能也有3PFlops(每秒3千万亿次)。
有了它,可以轻松运行各种满血的AI大模型。
众多OEM、ODM合作伙伴将陆续推出RTX PRO服务器产品,包括:思科、戴尔、慧与、联想、研华、华擎、仁宝、富士康、技嘉、神达、微星、和硕、纬创、超微、英业达、广达、华硕、纬颖。
在现场,黄仁勋展示了来自华擎、微星的样机。


