美国车载AI语音技术公司 Cerence (CRNC.US) 美股开盘后一度升近40%,现升逾20%,上一个交易日曾飙升逾140%,公司在美东时间1月3日宣布与英伟达加深合作,以提升其车载系统中的语言模型性能。

分析指出,借助英伟达的技术支持,Cerence有望降低研发成本,并加快新产品和功能的推出速度。对于市值仅为3.34亿美元的公司来说,与像英伟达这样行业巨头的联盟,无疑为其增加了显著的信誉和技术实力。而且英伟达的AI基础设施在行业内处于领先地位,Cerence能够直接利用这些资源,开发更强大的语言模型和车载系统。
Cerence和英伟达的合作是汽车AI部署中的重要一步。Cerence将借助英伟达的AI Enterprise软件和DRIVE AGX Orin硬件平台的强大算力,进一步优化其CaLLM(云端语言模型)和CaLLM Edge(边缘计算语言模型)的性能。英伟达的这些平台专为高性能AI计算设计,能够高效运行复杂的AI模型。
通过英伟达的DRIVE AGX Orin车载硬件,Cerence也能提供本地化(在车辆中直接运行)的AI功能,这对无法始终保持网络连接的场景非常有用。
另外,英伟达为Cerence提供了TensorRT-LLM和NeMo框架,有助于解决车载AI助手常见的三大难题。
一是延迟问题,汽车AI必须快速响应,在驾驶场景中,毫秒级的反应时间可能决定生死。二是性能不足,汽车内部计算资源有限,无法与数据中心相媲美。英伟达的TensorRT-LLM对模型进行深度优化,使其在有限的硬件资源下发挥最大效能,提升整体性能。三是资源消耗大,通过对硬件和模型的深度优化,降低了功耗和占用的计算资源,使技术能在资源受限的车载设备中运行。
编辑/lambor