来源丨阿里技术
刚刚，阿里开源了云视频生成大模型万相2.1（Wan），此次开源采用Apache2.0协议，14B和1.3B两个参数规格的全部推理代码和权重全部开源，同时支持文生视频和图生视频任务。
Github: https://github.com/Wan-Video
HuggingFace: https://huggingface.co/Wan-AI
魔搭社区：https://modelscope.cn/organization/Wan-AI

此次开源的两个参数版本模型：
14B版本万相模型在指令遵循、复杂运动生成、物理建模、文字视频生成等方面表现突出，在权威评测集Vbench中，万相2.1以总分86.22%大幅超越Sora、Luma、Pika等国内外模型，稳居榜首位置。
1.3B版本万相模型不仅超过了更大尺寸的开源模型，甚至还和一些闭源的模型结果接近，同时能在消费级显卡运行，仅需8.2GB显存就可以生成480P视频，适用于二次模型开发和学术研究。



万相2.1（Wan）模型技术解读

#模型性能

万相大模型在多个内部和外部基准测试中，均大幅超越现有的开源模型以及顶尖商业闭源模型。万相能够稳定展现各种复杂的人物肢体运动，如旋转、跳跃、转身、翻滚等；能够精准还原碰撞、反弹、切割等复杂真实物理场景。

在指令遵循能力方面，能够准确理解中英文长文本指令，还原各种场景切换、角色互动。



#关键技术

基于主流的DiT和线性噪声轨迹Flow Matching范式，万相大模型通过一系列技术创新实现了生成能力的重大进步。包括自研高效的因果3D VAE、可扩展的预训练策略、大规模数据链路构建以及自动化评估指标，这些创新共同提升了模型的最终性能表现。

高效的因果3D VAE：万相自研了一种专为视频生成设计的新型因果3D VAE架构，并结合多种策略来改进时空压缩、降低内存使用以及确保时间因果性。


万相大模型视频VAE

视频Diffusion Transformer：万相模型架构基于主流的视频DiT结构，通过Full Attention机制确保长时程时空依赖的有效建模，实现时空一致的视频生成。


万相视频模型架构图

模型训练和推理效率优化：训练阶段，对于文本、视频编码模块，我们使用DP 和FSDP 组合的分布式策略；对于DiT模块，我们采用DP、FSDP、RingAttention、Ulysses混合的并行策略。在推理阶段，为了使用多卡减少生成单个视频的延迟，我们需要选择CP来进行分布式加速。此外，当模型较大时，还需要进行模型切分。


DiT并行策略


结语：开启全模态开源新时代

2023年8月，阿里云率先开源Qwen模型，正式拉开了开源大模型的序幕。随后，Qwen1.5、Qwen2、Qwen2.5等四代模型相继开源，覆盖了从0.5B到110B的全尺寸范围，涵盖大语言、多模态等领域。目前其千问（Qwen）衍生模型数量已超过10万个。其官方文章显示，随着万相的开源，阿里云实现了全模态、全尺寸的开源。

从大语言模型到视觉生成模型，从基础模型到多样化的衍生模型，开源生态的发展正不断被注入强大的动力。