Arm 将 AI 推理性能优化软件库 Kleidi 扩展到车用市场，助力合作伙伴充分利用下一代特定应用 AI 模型在汽车中的优势，加速部署。该软件库无需额外开发，即可优化 Arm CPU 上的 AI 推理工作负载，此前已应用于移动设备、云服务和数据中心。亚马逊 AWS 利用集成 KleidiAI 的 Llama.cpp，为软件定义汽车打造了 AI 聊天机器人，响应时间缩短至 1~3 秒，性能提升达 10 倍，并节省了 6 周的底层软件优化时间。Arm 平台凭借灵活性、性能、效率和可扩展性，成为汽车行业开发者的首选。

🚀 Arm Kleidi 扩展至车用市场，旨在优化汽车中特定应用 AI 模型的推理性能，加速汽车智能化进程。

🤖 亚马逊 AWS 通过与 Corellium 联合开发的虚拟平台，并集成 KleidiAI 的 Llama.cpp，成功打造了 SDV 软件定义汽车的 AI 聊天机器人，显著提升了响应速度和性能。

⏱️ 集成 KleidiAI 后，AWS 的 AI 聊天机器人响应时间缩短至 1~3 秒，性能提升达 10 倍，同时开发人员节省了 6 周的底层软件优化时间。

🚗 Arm 平台凭借其卓越的灵活性、性能、效率和可扩展性，已成为汽车行业开发人员的首选平台，支持自适应巡航控制、车载信息娱乐系统、驾驶员监控等多种 AI 应用。

IT之家 3 月 12 日消息，Arm 今日宣布将其 AI 推理性能优化软件库 Kleidi 扩展到车用市场，透过 Arm Kleidi，合作伙伴将可充分发掘下一代特定应用 AI 模型在汽车中的优势，并加快其部署速度。

IT之家获悉，Arm Kleidi 于 2024 年推出，开发人员无需进行任何额外工作，就能利用其为 Arm CPU 上运行的 AI 推理工作负载提供软件性能优化。此前该软件库已被移动设备、云服务和数据中心等关键领域应用。

Arm 宣称，通过其与 Corellium 联合开发的虚拟平台，亚马逊 AWS 为 SDV 软件定义汽车打造了新的概念验证 AI 聊天机器人，可让司机直接与汽车进行互动，提出问题或询问仪表板警报，而无需翻阅汽车用户手册。

由于使用了集成 KleidiAI 的最新版 Llama.cpp 来进行开发，AWS 实现了聊天机器人性能的显著提升：响应时间缩短至 1~3 秒，性能提升达 10 倍。同时 Kleidi 软件库为开发人员节省了 6 周的底层软件优化时间。

Arm 车用事业部产品与解决方案副总裁 Suraj Gajendra 表示：

在汽车产业中，AI 通常被称为自动驾驶汽车的核心 —— 听起来颇具未来感，距离其大规模量产上路还有数年时间。

然而，实际的情况是，当下新车型中的很多应用和功能，从自适应巡航控制、个性化车载信息娱乐系统到驾驶和乘客监控系统，都已使用 AI 技术，并且这些特定应用的模型和工作负载已在 Arm 平台上高效地运行。

这归功于 Arm 运算平台卓越的灵活性、性能、效率和可扩展性，使其成为整个汽车行业中开发人员的首选平台。