英特尔宣布在MLPerf Client v0.6基准测试中实现对NPU的全面支持，成为首家针对客户端NPU进行大语言模型性能标准化评估的企业。测试结果显示，英特尔酷睿Ultra 200处理器在GPU和NPU上的速度超越人类平均阅读速度。在基于Llama 2 7B模型的测试中，英特尔在NPU和Arc GPU上均表现出色，NPU首个词元生成仅需1.09秒，吞吐量高达18.55 tokens/秒。MLPerf Client由MLCommons联盟成员联合开发，首次新增了专用NPU基准评估。

🥇英特尔成为首家在MLPerf Client v0.6基准测试中实现全NPU支持的企业，标志着行业对客户端NPU性能评估进入标准化阶段。

🚀英特尔酷睿Ultra 200处理器在NPU上的表现卓越，生成速度远超人类阅读速度，展现了其在AI领域的强大实力。

💡在Llama 2 7B模型的测试中，英特尔NPU表现突出，首个词元生成仅需1.09秒，吞吐量高达18.55 tokens/秒，领先于竞争对手。

🤝MLPerf Client测试由MLCommons联盟成员联合开发，首次突破了以GPU为核心的测试模式，新增了专用NPU基准评估，更全面地评估AI性能。

IT之家 5 月 7 日消息，当地时间 5 月 5 日，英特尔宣布成为唯一在 MLPerf Client v0.6 基准测试中实现全 NPU 支持的企业。

英特尔表示，该结果标志着行业首个针对客户端 NPU 的大语言模型（LLM）性能标准化评估。测试数据显示，英特尔酷睿 Ultra 200 处理器在 GPU 和 NPU 上的输出速度远超人类平均阅读速度。

英特尔客户端 PC 产品营销副总裁兼总经理丹尼尔・罗杰斯（Daniel Rogers）表示，“我们很荣幸能够引领行业，实现客户端 PC 平台的全 NPU 加速和领先 GPU 性能。”

测试配置

	AMD	英特尔
平台	华硕 Zenbook S 16	华硕 Zenbook S 14
型号	UM5606WA	UX5406SA
CPU	AMD 锐龙 AI HX 370	酷睿 Ultra 9 288V
BIOS 日期	2025 年 3 月 21 日	2025 年 2 月 26 日
BIOS 版本	UM5606WA.317	UX5406SA.306
内存	32GB LPDDR5，7500MHz	32GB LPDDR5，8533 MHz
显卡	AMD Radeon 890M	英特尔 Arc 140V
存储	1TB	1TB
操作系统	Windows 11 专业版 x64

英特尔表示，在基于 Llama 2 7B 模型的四项内容生成与摘要测试中，英特尔在 NPU 和内置 Arc GPU 上均展现领先性能：

创 NPU 最快响应速度，首个词元生成仅需 1.09 秒（首 token 延迟）

实现 NPU 最高吞吐量 18.55 tokens / 秒

GPU 首 token 生成速度超越竞品

IT之家注：MLPerf Client 由 MLCommons 联盟成员（含英特尔、AMD、微软、英伟达、高通）联合开发，首次突破以 GPU 为核心的测试模式，新增专用 NPU 基准评估。