news 2026/4/22 18:10:18

【AIGC】SCAIL:通过对 3D 一致姿态表示进行上下文学习,实现工作室级角色动画

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
【AIGC】SCAIL:通过对 3D 一致姿态表示进行上下文学习,实现工作室级角色动画

参考论文:https://arxiv.org/pdf/2512.05905

参考github: https://github.com/zai-org/SCAIL

主要贡献

(1) 我们提出了一种可扩展的 3D 姿态表示方法,该方法融合了 2D 骨架和 SMPL 的优势,可作为鲁棒的运动驱动信号。(2) 我们通过上下文推理注入驱动姿态控制,实现了有效的时空运动建模,在复杂的多人场景中取得了优异的成果。(3) 我们构建了一个高质量、多样化训练数据的收集流程,并建立了一个全面的 Studio-Bench 用于系统评估。(4) 我们的 SCAIL 框架在现有基线方法的基础上实现了最先进的性能,并将角色图像动画推向了生产级应用。


三维一致姿态调节

问题

二维关键点无法编码三维遮挡,使得模型难以从不完整或模糊的姿态信号中生成逼真的运动视频。另一个挑战来自参考图像和驱动姿态之间的差异,二者通常在体型或身份上有所不同。之前的研究[30, 38]通过在训练中缩放二维骨架或在测试中采用启发式重定向来缓解这种差异,但二维衍生的自适应方法本身就存在形变问题。

理想状态

参考姿态表示应该能够感知深度和遮挡,保持与身份无关,并具备扩展到多人场景的潜力。

解决问题

为了保留 2D 投影中丢失的遮挡和深度线索,我们将 3D 骨骼渲染为圆柱形片段,以提供运动驱动信号。

示意图

全上下文驾驶姿态注入

用于姿态上下文的移位 RoPE

数据过滤pipeline

网络结构

实验细节

我们训练了模型的两个版本(1.3B 和 14B)。1.3B 模型基于 Wan2.1-1.3B-Fun-Inp 骨干网络,在我们的预训练数据集上进行微调,训练步数为 6000 步,批大小为 96,学习率为 1e-5,使用 32 个 NVIDIA H100 GPU,耗时约两天。对于更大的 14B 模型,我们分两个阶段基于 Wan2.1-I2V-14B 骨干网络进行微调:在预训练阶段,我们以 96 的批大小训练 8000 步,学习率为 1e-5。初始学习率为 1e-5;收敛后,我们以相同的批大小和较低的学习率(4e-6)进行 400 步的额外微调。14B 模型的训练在 128 个 NVIDIA H100 GPU 上进行,历时四天以上,并启用了序列并行。所有模型均使用 AdamW [21] 进行优化。在推理过程中,我们将无分类器引导 (CFG) 的尺度 [10] 设置为 4,从而在姿态跟踪和视频保真度之间取得良好的平衡。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/4/23 7:48:40

【学习笔记】AI赋能安全运营中心典型场景

一、概览 由概览图可以大致看出目前AI应用的广泛度和成熟度分布情况。 从高成熟度、高广泛度的知识问答到低成熟度、低广泛度的代码安全审计安全验证,均可以通过AI,通过重构赋能后大幅提升其价值。 未来的ISOC的目标是:实现更精准的威胁检测、…

作者头像 李华
网站建设 2026/4/17 22:54:36

【AI工程化必修课】:R-Python模型融合验证的7个关键指标详解

第一章:R-Python模型融合验证的核心意义在数据科学与机器学习工程实践中,R语言与Python各自拥有强大的生态系统。R在统计建模与可视化方面表现卓越,而Python在工程部署与深度学习领域占据主导地位。将两者结合进行模型融合验证,不…

作者头像 李华
网站建设 2026/4/18 4:53:06

基于FPGA的帧同步设计

帧同步 检测数据流,来代表检测数据是否开始发送了,他的头在哪里(几次失锁自己设计)在数字通信中,同步码用于指示数据帧的起始位置。由于信道噪声,接收到的同步码可能会出现比特错误。###第一步:…

作者头像 李华
网站建设 2026/4/17 15:57:06

PHP如何为GraphQL实现智能缓存?这7种方法你必须掌握

第一章:PHP如何为GraphQL实现智能缓存?这7种方法你必须掌握在构建高性能的GraphQL API时,缓存策略是提升响应速度和降低服务器负载的关键。PHP作为后端常用语言,结合GraphQL可以实现多种智能缓存机制,有效减少数据库查…

作者头像 李华
网站建设 2026/4/23 7:49:03

找到你的优质素材灵感库:四个实用平台真实体验

做片子找素材这事,我算是有点发言权了。从刚开始到处求资源包的小白,到现在能淡定选择合适平台的老手,最深的体会是:好素材不光是好看,更得用着放心。今天分享四个我工作室常用的素材站,各有各的脾气&#…

作者头像 李华
网站建设 2026/4/18 12:34:29

流水线作业车间:拓纳斯(TUONAS)均匀光设计,减少视觉疲劳提升效率

流水线作业视觉疲劳难题,光环境优化是核心解决方案流水线车间的连续作业特性,要求员工长时间保持视觉专注。若照明存在眩光、明暗不均等问题,易引发眼酸、干涩、注意力不集中等视觉疲劳,直接导致操作失误增加、生产效率下降&#…

作者头像 李华