IT之家 01月10日
英伟达迷你超算遭友商嘲讽:宣传 FP4 算力,实际“不如买个游戏电脑”
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

英伟达在CES上发布的迷你超算Project DIGITS引发争议,其FP4算力被指虚高,实际性能可能仅与中端显卡相当。Project DIGITS搭载Grace Blackwell超级芯片,号称可运行200B大模型,但其高昂售价和实际性能遭到业内人士和友商的质疑。同时,英伟达与联发科合作的桌面CPU计划也浮出水面,预示着英伟达可能进军消费级CPU市场,但目前Project DIGITS主要面向AI从业人员,离大众市场仍有距离。尽管如此,黄仁勋对英伟达的CPU计划充满信心,并表示将全力支持其发展。

🚀Project DIGITS迷你超算发布:英伟达推出体积最小的AI超算,搭载Grace Blackwell超级芯片,FP4算力达1PFLOPs,可运行200B大模型,起售价3000美元。

🤔算力争议:芯片专家Raja Koduri指出,Project DIGITS的FP4算力被夸大,实际在FP16精度下性能可能仅与中端显卡相当,友商Tiny Corp更直指其为“纯纯的诈骗”。

💻英伟达桌面CPU计划:Project DIGITS中的Grace CPU是英伟达首次试水桌面CPU市场,与联发科合作开发,未来可能进军消费级CPU市场,但目前主要面向AI从业人员。

🤝联发科的合作:英伟达与联发科合作开发CPU,联发科既可将产品提供给英伟达,也可自行推向市场,双方合作被认为是双赢。

老黄在 CES 上发布的迷你超算 Project DIGITS,开启了 AI 超算的 PC 时刻。

但随即也引发了不小争议,还遭到了大佬的贴脸嘲讽。

在 AMD 和英特尔都工作过的芯片设计专家 Raja Koduri 实名吐槽道:

FLOPs 除以 4,价格翻倍,这就是在 CES 上 stay grounded 的秘诀。

后来 Koduri 在网友追问下给出了详细解释,表示英伟达宣传的算力是在 FP4 精度下的,而 Project DIGITS 在 FP16 下的表现,可能就和 5070 差不多,甚至接近 Intel Arc B580(售价 250 美元)。

友商 Tiny Corp 更是抓住这一点猛地一波输出,直接表示,人们趋之若鹜的的所谓 3000 美元超算,就是纯纯的诈骗。

最后还不忘再补一刀说,3000 美元还不如买个游戏电脑。

关于细节,Tiny Corp 在另一则推文里表示,FP4 根本就没法用,Project DIGITS 在 FP8 精度下只有 500TFLOPs,顺便宣传自家的产品有 4PFLOPs,是 Project DIGITS 的 8 倍。

史上最迷你超算,售价 22000 起

英伟达介绍,这一波发布的 Project DIGITS,可以说是目前体积最小的 AI 超算。

Project DIGITS 将于今年 5 月份由官方和顶级合作商一同发售,起售价 3000 美元,约合人民币两万二。

它搭载了英伟达全新 Grace Blackwell 超级芯片 ——GB10,FP4 运算能力达到了 1PFLOPs

GB10 包含了英伟达 Blackwell GPU,具有最新一代 CUDA 核心和第五代 Tensor Cores。

CPU 则是与联发科合作研发的 Grace CPU,基于 Arm 架构,拥有 20 个节能核心。

CPU 和 GPU 之间,则是通过 NVLink-C2C 芯片到芯片互连连接,另外还有 128GB 统一内存和 4TBNVMe 存储。

据介绍,Project DIGITS 可以在桌面端运行 200B 大模型,还可以把两台组合到一起,跑 405B 的模型。

此外英伟达还给用户配有 AI 软件库,包括 NGC 目录和开发者门户中的软件开发工具包、编排工具、框架和模型等,可用 NVIDIA NeMo 框架微调模型、NVIDIA RAPIDS 库加速数据科学,运行 PyTorch 等常见框架。

还可以利用 NVIDIA Blueprints 和 NVIDIA NIM 微服务构建智能 AI 应用。

并且在桌面系统上对大模型搞完开发或推理之后,还可以无缝部署到加速云或数据中心基础设施里。

英伟达的桌面 CPU 计划

之前有传言称,英伟达打算在今年进军消费级 CPU 市场。

这次的 Project DIGITS 中,20 个节能核心的 Grace CPU 就是英伟达的第一次试水。

黄仁勋在投资者演讲中回答分析师的问题时表示,英伟达与联发科共同设计了一款“可以广泛销售的”节能 CPU。

不过,搭载新 CPU 的 Project DIGITS 主要面向 AI 从业人员,主要运行 Linux 系统,离成为大众消费市场设备还存在距离。

但老黄也明确表示,英伟达对于桌面级的 CPU“有进一步计划”,具体细节则要之后再透露。

不过这已经足够证明,英伟达想要进军消费级 CPU 的说法属实。

并且老黄也对此充满了信心:

我们将使其成为主流产品,将竭尽全力支持专业和高质量的软件,而 PC(制造商)将向最终用户提供它。

另外,与英伟达合作的联发科可能也有自己的野心。

老黄表示,联发科既可以把产品提供给英伟达,也可能自行保留并推向市场。

不过至少在目前看来,黄仁勋依然认为与联发科的合作是一个双赢的结果。

参考链接:

本文来自微信公众号:量子位(ID:QbitAI),作者:克雷西

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

Project DIGITS 英伟达 AI超算 桌面CPU 算力争议
相关文章