加拿大AI初创公司Cohere发布Command A模型，主打轻量化，只需两块英伟达GPU可部署，支持多种语言，性能出色，已在Hugging Face平台对学术界开放，未来将登陆其他云服务平台。

🎯Command A是轻量化AI模型，两块英伟达A100或H100 GPU可轻松部署。

🌐该模型支持256k上下文长度和23种语言，性能测试表现出色。

💡Cohere称大语言模型规模过大可能有延迟问题，Command A是不错选择。

🚀Command A已在Hugging Face平台对学术界开放，未来会登陆其他云平台。

IT之家 3 月 14 日消息，加拿大 AI 初创公司 Cohere 昨日发布了一款名为“Command A”的 AI 模型，该模型主打轻量化应用，号称只需要两块英伟达 A100 或 H100 GPU 即可轻松部署，号称“表现能和 GPT-4o 相媲美”，实现“用最少的硬件发挥最大的性能”。

Cohere 表示，Command A 专门为中小型企业环境设计，其支持 256k 的上下文长度和 23 种语言，作为比较，其他竞争对手的“同类模型”需要 32 块 GPU 才能部署。

在性能测试中，Command A 最快每秒可以输出 156 个 Token，据称比 GPT-4o 快 1.75 倍。而在指令追踪、SQL、代理程序和工具任务的基准测试上，Command A 也表现出色。

Cohere 援引相应性能数据，声称业界的大语言模型如果“规模过大”，反而在输出结果时可能会出现严重的延迟问题；如果只是想快速得到正确答案，Command A 相对是个不错的选择。

目前，Cohere 已将相应 Command A 发布在 Hugging Face 平台（点此访问），对学术界开放使用，未来还会登陆其他云服务平台。