华尔街见闻 - 资讯 - undefined 04月16日 09:24
全球首个!“英伟达亲儿子”CoreWeave大规模上线GB200服务器
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

CoreWeave 作为 AI 云计算领域的领先者,率先部署了英伟达 GB200 NVL72 系统,为 Cohere、IBM 和 Mistral AI 等 AI 巨头提供算力支持。新系统在 MLPerf 基准测试中表现出色,性能是前代 H100 芯片的 2-3 倍,将显著提升大模型训练和推理速度。CoreWeave 与英伟达的深度合作以及近期与 OpenAI 的携手,进一步巩固了其在 AI 基础设施领域的领先地位。文章强调了算力对 AI 发展的重要性,并指出了 CoreWeave 在市场竞争中的优势。

🚀 CoreWeave 率先部署英伟达 GB200 NVL72 系统,成为首批大规模应用该系统的云服务提供商之一,并已开始为 Cohere、IBM 和 Mistral AI 等公司提供服务。

📈 最新 MLPerf 基准测试显示,GB200 系统性能是前代 H100 芯片的 2-3 倍,这将显著加速大模型的训练和推理过程。

🤝 CoreWeave 与英伟达建立了紧密的合作关系,通过投资、供应和反向租赁等方式,加速了自身的发展。此外,CoreWeave 还与 OpenAI 合作,进一步巩固其在 AI 基础设施领域的领先地位。

⚙️ 在 AI 推理测试中,GB200 NVL72 服务器在没有特定优化 Blackwell 架构的情况下,帮助 Cohere 在 1000 亿参数模型的训练中实现了高达 3 倍的性能提升。

💡 通过优化 GB200 NVL72 的大统一内存、FP4 精度和 72 个 GPU 的 NVLink 域,Cohere 获得了更高的吞吐量,缩短了令牌生成时间,从而实现更高性能、更具成本效益的推理。

CoreWeave再度抢占先机,率先部署英伟达GB200系统,AI巨头争相入局。

英伟达今日在其博客上宣布,AI云计算提供商CoreWeave已成为首批大规模部署英伟达GB200 NVL72系统的云服务提供商之一。Cohere、IBM和Mistral AI已成为首批用户。

根据最新MLPerf基准测试,这些系统提供了前代H100芯片2-3倍的性能提升,将显著加速大模型训练和推理能力。

CoreWeave首席执行官Michael Intrator表示,这一成就既展示了公司的工程实力和执行速度,也体现了其对下一代AI发展的专注:

“CoreWeave的设计就是为了更快速地行动——我们一次又一次地证明了这一点,始终是首批大规模运营最先进系统的公司。”

英伟达超大规模与高性能计算(HPC)副总裁Ian Buck表示:

“世界各地的企业和组织正在竞相将推理模型转化为代理型人工智能应用,这将改变人们的工作和娱乐方式。”

“CoreWeave对英伟达GB200系统的快速部署提供了人工智能基础架构和软件,使人工智能工厂成为现实。”

华尔街见闻此前提及,近年来英伟达和CoreWeave通过投资、供应和反向租赁等方式构建了“亲子关系”,成就了后者的迅速崛起。2023年,英伟达承诺在四年内向CoreWeave支付13亿美元,租回自己生产的芯片。

近日,CoreWeave还宣布与OpenAI合作,进一步巩固了其作为AI基础设施提供商的领先地位。

这一系列动作表明,在AI算力资源持续紧缺的背景下,能够提供最先进芯片组的云服务提供商将在市场竞争中仍占据有利位置。

性能突破:新基准刷新行业记录

去年,CoreWeave就是首批提供英伟达H100和H200 GPU的供应商之一,也是最早演示英伟达GB200 NVL72系统的公司之一。

CoreWeave最近在采用英伟达GB200 Grace Blackwell超级芯片的AI推理测试中创下了新的行业记录,这一成绩已发布在最新的MLPerf v5.0结果中。

值得注意是,在没有特定优化Blackwell架构的情况下,相比前代英伟达Hopper GPU,GB200 NVL72服务器能帮助Cohere在1000亿参数模型的训练实现高达3倍的性能提升。

据介绍,通过进一步优化利用GB200 NVL72的大统一内存、FP4精度和72个GPU的NVLink域(每个GPU都连接起来协同运行),Cohere正获得显著更高的吞吐量,缩短首个令牌(computation tokens)和后续令牌的生成时间,提供更高性能、更具成本效益的推理。

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

CoreWeave 英伟达 GB200 AI算力 云计算
相关文章