2025-03-31 14:02 江苏
获开源社区认可,已集成至ComfyUI
关注公众号,发现CV技术之美
本篇分享论文CFG-Zero*: Improved Classifier-Free Guidance for Flow Matching Models
,是由南洋理工大学S-Lab 与普渡大学提出的无分类引导新范式,支持所有Flow-Matching的生成模型。
随着生成式AI的快速发展,文本生成图像与视频的扩散模型(Diffusion Models)已成为计算机视觉领域的研究与应用热点。近年来,Flow Matching作为一种更具可解释性、收敛速度更快的生成范式,正在逐步取代传统的基于随机微分方程(SDE)的扩散方法,成为主流模型(如Lumina-Next、Stable Diffusion 3/3.5、Wan2.1等)中的核心方案。
然而,在这一技术迭代过程中,一个关键问题依然存在:如何在推理阶段更好地引导生成过程,使模型输出更加符合用户提供的文本描述。Classifier-Free Guidance(CFG)是当前广泛采用的引导策略,但其引导路径在模型尚未充分训练或估计误差较大时,容易导致样本偏离真实分布,甚至引入不必要的伪影或结构崩塌。
对此,南洋理工大学S-Lab与普渡大学的研究者联合提出了创新方法——CFG-Zero⋆,针对传统CFG在Flow Matching框架下的结构性误差进行了理论分析,并设计了两项轻量级但效果显著的改进机制,使生成图像/视频在细节保真度、文本对齐性与稳定性上全面提升。
背景分析:CFG为何失效?
传统的CFG策略通过对有条件与无条件预测结果进行插值来实现引导。然而在Flow Matching模型中,推理过程是通过解常微分方程(ODE)进行的,其每一步依赖于前一步的速度估计。当模型训练不足时,初始阶段的速度往往较为不准确,而CFG此时的引导反而会将样本推向错误轨迹。研究者在高斯混合分布的可控实验中发现,CFG在初始步的引导效果甚至不如“静止不动”,即设速度为0。
方法简介
为此,研究者提出了CFG-Zero⋆,并引入以下两项关键创新:
这两项策略可无缝集成至现有的CFG推理流程中,几乎不引入额外计算开销。
实验结果
研究者在多个任务与主流模型上验证了CFG-Zero⋆的有效性,涵盖了文本生成图像(Text-to-Image)与文本生成视频(Text-to-Video)两大方向。在图像生成任务中,研究团队选用了Lumina-Next、SD3、SD3.5、Flux等当前SOTA模型进行对比实验,结果显示CFG-Zero⋆在Aesthetic Score与CLIP Score两项核心指标上均优于原始CFG。
例如在Stable Diffusion 3.5上,美学分有明显提高,不仅图像美感更强,而且语义一致性更好。在T2I-CompBench评测中,CFG-Zero⋆在色彩、纹理、形状等多个维度均取得更优表现,特别适用于需要精准表达复杂语义的生成任务。
在视频生成任务中,研究者将CFG-Zero⋆集成到Wan2.1模型中,评估标准采用VBench基准套件。结果表明,改进后的模型在Aesthetic Quality、Imaging Quality、Motion Smoothness等方面均有所提升,呈现出更连贯、结构更稳定的视频内容。CFG-Zero⋆有效减少了图像跳变与不自然的位移问题。
实际测试
CFG-Zero⋆在开源社区中实现了快速落地。目前,该方法已正式集成至图形化扩展框架ComfyUI,并被纳入视频生成模型Wan2.1GP的推理流程。借助这些集成,普通开发者与创作者也能轻松体验该方法带来的画质与文本对齐提升。
我们使用官方的repo用这张测试图:
输入prompt:“Summer beach vacation style, a white cat wearing sunglasses sits on a surfboard. The fluffy-furred feline gazes directly at the camera with a relaxed expression. Blurred beach scenery forms the background featuring crystal-clear waters, distant green hills, and a blue sky dotted with white clouds. The cat assumes a naturally relaxed posture, as if savoring the sea breeze and warm sunlight. A close-up shot highlights the feline's intricate details and the refreshing atmosphere of the seaside.”
得到的视频如下:(第一个为原始CFG生成的,第二个为CFG-Zero*生成的),效果还是比较明显,值得尝试。
END
欢迎加入「视频生成」交流群👇备注: