字节跳动Seed团队推出了实验性扩散语言模型Seed Diffusion Preview，专注于结构化代码生成领域。该模型旨在验证离散扩散技术作为下一代语言模型基础框架的可行性。实验结果显示，Seed Diffusion Preview的代码推理速度高达2146 tokens/s，相较于同等规模的自回归模型提升了5.4倍。在多个业界基准测试中，其性能与优秀的自回归模型相当，并在代码编辑等任务上表现出超越。Seed Diffusion Preview成功验证了离散扩散模型在大型语言模型上的推理加速潜力，并有望在复杂推理任务中展现更深远的价值。

💡 Seed Diffusion Preview是一款实验性扩散语言模型，由字节跳动Seed团队推出，其核心目标是探索和验证离散扩散技术路线作为下一代语言模型的基础框架，尤其在结构化代码生成领域。

🚀 该模型在代码推理速度上取得了显著突破，达到了2146 tokens/s，相比同等规模的自回归模型提升了5.4倍，极大地提高了代码生成的效率。

🏆 在多个业界基准测试中，Seed Diffusion Preview展现出与优秀自回归模型相当的性能，并且在代码编辑等需要全局视角规划的任务上实现了超越，证明了扩散模型框架在解决复杂结构化推理问题上的内在优势。

✨ Seed Diffusion Preview的发布不仅验证了离散扩散模型在大型语言模型上实现推理加速的巨大潜力，更预示着其在挖掘更深远价值、探索规模化定律以及应用于复杂推理任务方面拥有广阔前景。

IT之家 7 月 31 日消息，字节跳动 Seed 团队今天宣布推出实验性扩散语言模型 Seed Diffusion Preview，目标是以结构化的代码生成为实验领域，系统性地验证离散扩散技术路线作为下一代语言模型基础框架的可行性。

实验结果显示，Seed Diffusion Preview 代码推理速度可达到 2146 tokens / s，速度相比同等规模的自回归模型提升 5.4 倍。在多个业界基准上，Seed Diffusion Preview 性能与优秀的自回归模型相当，并在代码编辑等任务上实现超越。

IT之家从 Seed 团队介绍获悉，在实现高效采样的同时，模型在多个代码生成基准测试中，表现出与同规模自回归模型相当的性能。此外，在代码编辑（如 CanitEdit 等）这类需要全局视角规划的任务中，模型展现了扩散模型框架的内在优势，性能超过基于自回归的模型，为解决更复杂的结构化推理问题提供了新的可能性。

官方表示，Seed Diffusion Preview 验证了离散扩散模型在大型语言模型上的推理加速潜力。团队同时认为，推理加速仅是这一技术路径最直接的表层优势。Seed Diffusion 项目将致力于挖掘其更深远的价值，持续探索其规模化定律与在复杂推理任务中的应用。