智源社区 04月10日 23:17
字节最新人像视频生成模型DreamActor-M1,推特关注超百万!即梦AI抢先上线
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

字节跳动推出DreamActor-M1,一项基于DiT架构的可控人像视频生成技术。该技术仅需静态照片和驱动视频,即可生成电影级别的高质量视频,精准捕捉并迁移动作和表情。DreamActor-M1简化了内容创作流程,支持多种画幅和风格,并在人物ID保持、动作表情还原、视频生成质量方面表现出色。该技术将应用于即梦AI的“数字人”-“动作模仿”功能,带来大幅优化。

🎬 DreamActor-M1的核心在于其强大的视频生成能力,仅需一张静态照片和一段驱动视频,就能生成高质量、电影级别的视频,极大地提升了人像视频生成的表现力。

🎭 该技术采用多控制信号混合驱动架构,能够精准还原从眼神到肢体动作的各类表现,支持真人到卡通的不同形象,以及从肖像画幅到全身画幅的多种画幅。

😲 在表情迁移方面,DreamActor-M1运用隐式Face Motion Tokenizer,通过自监督训练实现对表情细节的精准建模;在动作迁移方面,采用3D头部球体和3D身体骨架,支持各种风格角色的肢体动作精准迁移。

✅ DreamActor-M1在人物ID保持、动作表情还原、视频生成质量方面均优于现有技术,为高效创作高质量内容提供了新的可能性,并将应用于即梦AI的“数字人”功能。

🛡️ 模型上线后,即梦AI将对视频内容进行严格的安全审核,并添加“AI生成”水印,同时要求用户上传的视频素材需确保拥有合法授权,以保障内容安全。

编辑:编辑部 HYZ

还记得前段时间字节跳动备受关注的数字人技术Omnihuman-1吗?

最近,这支团队一项基于DiT架构的可控人像视频生成技术DreamActor-M1,一经发布,又在推特上引起了超百万量级的关注——

仅需一张静态照片和一段驱动视频,便可生成高质量、达到电影级别的视频,将人像视频生成的表现力提升至全新水平!

左右滑动查看

项目网页:

https://grisoon.github.io/DreamActor-M1/

论文地址:

https://arxiv.org/pdf/2504.01724

DreamActor-M1不仅能够保留原图中的身份特征,还能精准捕捉并迁移驱动视频中的动作和表情,呈现出高度逼真的效果,极大地简化了现有的动作捕捉、角色动画以及内容创作流程。

据悉,Omnihuman-1技术已经应用于即梦数字人玩法的「大师模式」而DreamActor-M1模型也将于近期上线即梦AI,用户将可以在「数字人」-「动作模仿」功能下体验新模型。相比已有的动作模仿效果,在生成内容逼真度、画风支持、画面比例支持等多个方面将大幅优化。


方案介绍

先一起来看看DreamActor-M1的效果:

玛丽莲梦露不仅能够精准复刻参考视频的动作,保持语音和口型一致,手臂大幅度摆动也不会出现严重的变形或虚影

在日光下,男子随着参考视频动作的同时,能看到光影相应的变化

与以往方法不同,DreamActor-M1采用多控制信号混合驱动架构,能够精准还原从眼神等细腻表情到肢体动作的各类表现,可驱动从真人到卡通的不同形象,支持从肖像画幅到全身画幅的多种画幅,显著增强了单图视频驱动能力的表现力与易用性。

    在表情迁移方面,该系统运用隐式Face Motion Tokenizer,通过对大量人像视频进行自监督训练,实现对表情细节的精准建模。

    在动作迁移方面,采用3D头部球体和3D身体骨架,能够支持各种风格角色的肢体动作精准迁移。

    在画幅支持方面,DreamActor-M1基于DiT架构,并通过大量数据进行多阶段训练,可精准复刻各种画幅镜头,为用户提供了更广阔的创作空间。

各种画幅高表现还原


各种风格角色都支持

左右滑动查看


技术对比

相较于其他SOTA动作迁移和表情迁移工作,DreamActor-M1在人物ID保持、动作表情还原、视频生成质量方面都有着更好表现,为高效完成高质量内容创作创造了新的可能性。


安全说明

模型上线即梦AI后,平台将对视频内容进行严格的安全审核,并对输出视频添加「AI生成」水印,即梦AI现有的「动作模仿」功能也要求用户上传视频素材需确保拥有合法授权。


团队介绍

字节跳动智能创作团队是字节跳动AI&多媒体技术中台,通过建设领先的计算机视觉、音视频编辑、特效处理等技术,支持抖音、剪映、头条等公司内众多产品线;同时为外部ToB合作伙伴提供业界最前沿的智能创作能力与行业解决方案。

其中数字人团队专注于建设行业领先的数字人生成和驱动技术,丰富智能创作内容生态。该团队的OmniHuman-1 、PersonaTalk、Loopy、CyberHost等前沿创新的数字人成果均已在即梦AI快速应用,未来还将持续通过即梦AI为用户带来新奇和惊喜的体验。


内容中包含的图片若涉及版权问题,请及时与我们联系删除

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

DreamActor-M1 字节跳动 AI视频生成 数字人 DiT架构
相关文章