商汤科技在WAIC 2024论坛上宣布，其绝影智能汽车事业群成功实现了原生多模态大模型的车端部署。该模型在车载端侧的8B模型首包延迟低至300毫秒，推理速度达到40Tokens/秒，并支持主流算力平台。

🚗 商汤绝影智能汽车事业群在WAIC 2024论坛上展示了其在行业内率先实现的原生多模态大模型车端部署。这一技术突破意味着车辆能够更快速、更高效地处理和响应各种数据，提升驾驶体验和安全性。

⏱️ 该模型的车载端侧8B模型首包延迟可低至300毫秒以内，推理速度达到40Tokens/秒。这种高性能的推理速度使得车辆在处理复杂任务时更加迅速，确保了实时性和准确性。

🔧 绝影智能汽车的技术能够覆盖主流算力平台，这意味着该技术具有广泛的兼容性和可扩展性。无论是高端还是中低端车型，都能享受到这一先进技术带来的便利和优势。

36氪获悉，7月5日上午，在由WAIC 2024战略合作伙伴商汤科技召开的“大爱无疆·向新力”人工智能论坛上，商汤科技联合创始人、首席科学家、绝影智能汽车事业群总裁王晓刚表示，商汤绝影在行业内率先实现了原生多模态大模型的车端部署。据了解，绝影智能汽车的车载端侧8B模型首包延迟可低至300毫秒以内，推理速度40Tokens/秒，并且能够覆盖主流算力平台。