中国公司DeepSeek发布了开源多模态大模型Janus-Pro，该模型在图像生成基准测试中超越了OpenAI的DALL-E 3。Janus-Pro 7B和1.5B模型是对去年10月发布的Janus模型的升级，具备在消费级电脑上本地运行的潜力。该模型采用新颖的自回归框架，统一了多模态理解和生成，通过分离视觉编码的理解和生成路径，提升了框架的灵活性。在文生图基准测试中，Janus-Pro 70亿参数模型表现优异。此外，Janus-Pro不仅能文生图，还能对图片进行描述、识别地标景点和图像中的文字，并能介绍图片中的知识。

🚀Janus-Pro是DeepSeek最新开源的多模态大模型，参数量为70亿和15亿，可在消费级电脑上本地运行。

🎨Janus-Pro采用自回归框架，分离视觉编码的理解和生成路径，提升了框架的灵活性，并在部分文生图基准测试中超越了DALL-E 3。

🖼️Janus-Pro不仅能进行文生图，还能对图片进行描述、识别地标景点、识别图像中的文字，并能对图片中的知识进行介绍。

📊该模型通过添加7200万张高质量合成图像，使得在统一预训练阶段真实数据与合成数据的比例达到1：1，实现“更具视觉吸引力和稳定性的图像输出”。

就在华尔街周一紧张评估“DeepSeek风暴”之际，这家中国公司再度甩出新品：在图像生成基准测试中超越OpenAI“文生图”模型DALL-E 3的多模态大模型Janus-Pro，同样也是开源的。

除夕凌晨钟声敲响前不久，DeepSeek工程师们在“抱抱脸”平台上传了Janus Pro 7B和1.5B模型。这俩模型是对去年10月发布的Janus模型的升级。

15亿和70亿的参数量，意味着这两个模型具备在消费级电脑上本地运行的潜力。与R1一样，Janus Pro采用MIT许可证，在商用方面没有限制。

据DeepSeek介绍，Janus-Pro是一个新颖的自回归框架，统一了多模态理解和生成。通过将视觉编码分离为“理解”和“生成”两条路径，同时仍采用单一的Transformer架构进行处理，解决了以往方法的局限性。这种分离不仅缓解了视觉编码器在理解和生成中的角色冲突，还提升了框架的灵活性。

从报告给出的“跑分”数据来看，在部分文生图基准测试中，Janus-Pro 70亿参数模型表现好于OpenAI的DALL-E 3、Stability AI的Stable Diffusion 3-Meduim等。

（来源：技术报告）

虽然DALL-E 3是OpenAI在2023年发布的一款“老模型”，同时Janus Pro目前只能分析和生成规格较小的图像（384 x 384）。DeepSeek在如此紧凑的模型尺寸中依然展现了令人印象深刻的性能。

技术报告显示，在视觉生成方面，Janus-Pro通过添加7200万张高质量合成图像，使得在统一预训练阶段真实数据与合成数据的比例达到1：1，实现“更具视觉吸引力和稳定性的图像输出”。在多模态理解的训练数据方面，新模型参考了DeepSeek VL2并增加了大约9000万个样本。

作为一个多模态模型，Janus-Pro不仅可以“文生图”，同样也能对图片进行描述，识别地标景点（例如杭州的西湖），识别图像中的文字，并能对图片中的知识（例如下图中的“猫和老鼠”蛋糕）进行介绍。

公司也在报告中，给出了更多图像生成的案例。