Arm公司发布SME2技术，旨在加速AI工作负载，特别是在移动设备上的生成式AI应用。SME2是SME的可扩展版本，能够实现实时的移动端推理任务，如生成图片、自然语言处理等。该技术无需修改代码即可集成到现有模型和应用中，并已在Google的Gemma 3模型上实现了6倍的加速。SME2被设计为可扩展，适用于笔记本电脑、平板电脑和高端智能手机，安卓系统也已准备好支持该技术，为未来的移动端AI应用提供了强大的硬件支持。

📱 Arm公司推出的SME2技术是SME（可扩展矩阵扩展）的升级版，旨在加速AI工作负载，特别是在移动设备上。SME最初出现在Armv9架构中，专门用于加速矩阵数学运算。

⚡️ SME2技术能够实现实时的移动端推理任务，涵盖生成图片、自然语言处理等应用。开发者无需修改代码，即可将SME2集成至现有模型和应用中。

🚀 根据Arm的测试数据，Google的Gemma 3模型在SME2增强的硬件上，比没有SME2的硬件快6倍。它可以在单个CPU核心上不到一秒钟内运行800字的文本摘要。

📱 SME2被设计为可扩展，适用于笔记本电脑、平板电脑和高端智能手机。安卓系统已经准备好支持SME2，并在Google的XNNPACK库中启用，支持llama.cpp、阿里巴巴的MNN和微软的ONNX等框架。

IT之家 7 月 11 日消息，Arm 公司昨日（7 月 10 日）发布博文，为了满足未来生成式 AI 的需求，扩展提供更多先进智能功能，推出了可以加速 AI 工作负载的可扩展矩阵扩展 2（SME2）技术，开发者无需修改代码，即可集成至现有模型和应用中。

该公司指出，在移动设备上的生成式 AI 应用不再局限于传统的聊天机器人和虚拟助手，而是逐渐发展到生成文本、声音、图像和视频，执行数学推理、以及群聊摘要等诸多高级智能功能。

SME 最初出现在 Armv9 架构中，是一组可选的高级 CPU 架构扩展，专门设计用于加速矩阵数学运算。

SME2 在 2022 年底首次亮相，在此基础上增加了新功能，据 Arm 称，它能够实现实时的移动端推理任务，涵盖生成图片、自然语言处理任务等。

Arm 还分享了一些数据，这些数据确实让 SME2 看起来非常可靠。根据 Arm 的说法，Google 的 Gemma 3 模型在 SME2 增强的硬件上，比没有 SME2 的硬件快 6 倍。

它可以在单个 CPU 核心上不到一秒钟内运行 800 字的文本摘要，IT之家注：这里 Arm 所指的 CPU 型号尚不清楚。

对于消费者来说，公告中的关键部分是，未来安卓手机即将具备 SME2 硬件能力。

到目前为止，SME 主要保留给服务器和工作站级处理器，因为其要求较高。然而，SME2 被设计为更加可扩展，能够部署在笔记本电脑、平板电脑，以及高端智能手机上。

重要的是，安卓已经准备好支持 SME2。SME2 在 Google 的 XNNPACK 库中启用，并支持 llama.cpp、阿里巴巴的 MNN 和微软的 ONNX 等框架。