DCM: Dual-Expert Consistency Model for Efficient and High-Quality Video Generation

Paper: arXiv:2506.03123 Code: Vchitect/DCM Code reference: main @ c7039e8a (2025-06-08)

1. Motivation (研究动机)

扩散式视频生成已经能产生很强的语义和视觉效果，但它的代价来自两个方面：一是从高噪声到低噪声的 ODE / SDE 轨迹需要很多次迭代；二是现代视频 DiT / Transformer denoiser 本身参数量很大，单步就很重。因此，直接用原始 HunyuanVideo 或 CogVideoX 做高分辨率视频采样时，延迟会变成实际部署的主要瓶颈。本文关注的不是重新训练一个更大的视频生成模型，而是如何把已有高质量 teacher diffusion model 蒸馏成少步数 student，同时尽量不牺牲视频的语义布局、运动连贯性和细节纹理。

Consistency Distillation / Consistency Model 的基本承诺是：student 学会把任意轨迹点直接映射到同一个 ODE 终点，因此可以用 4 步、8 步甚至更少步数采样。这个思路在图像扩散和若干 text-to-image 蒸馏中有效，但本文指出，把它直接迁移到视频扩散会暴露更严重的问题：视频不是单张图像，早期去噪负责建立场景布局、主体位置和跨帧运动，后期去噪负责逐步修复纹理、边缘和局部真实感；如果一个小步数 student 同时拟合所有噪声区间，优化目标会把“语义/运动”和“细节/质感”压在同一组参数和同一个损失面里，容易得到折中但不理想的解。论文在 loss 与 gradient norm 上观察到高噪声样本和低噪声样本的贡献差异显著，这说明冲突不是单纯的容量不够，而是不同时间段的学习动态本身不一致。

Figure 1 解读：这张 teaser 同时给出质量和速度的动机。左侧比较 DCM 4-step、原始 HunyuanVideo 和其他加速蒸馏方法的可视化结果，右侧把延迟与 VBench 分数放在一起看。关键点是 DCM 不是只追求低延迟：它的目标是在 4 个采样步附近仍保持接近原始多步模型的视觉质量。图中延迟是在 129 帧、1280×720 的视频生成配置下，用两张 A100 测量，因此它对应的是高分辨率长视频场景，而不是很小的 toy setting。

Figure 2 解读：论文的核心动机来自这张动态分析图。Fig.2(a) 显示早期采样结果变化很大，后期变化趋于平滑；这对应“先定语义布局和运动，再修细节”的生成过程。Fig.2(b) 显示蒸馏时不同噪声水平的 consistency loss 与 gradient norm 差异明显：高噪声段和低噪声段并不是同一种训练信号。若把二者混在同一个 vanilla consistency student 中，模型会被迫同时服务两个目标，导致语义运动和细节质量都不能达到各自最优。

Figure 3 解读：这张图验证了“分专家”的必要性。单独在高噪声子轨迹上训练的 semantic expert 更擅长布局和运动，单独在低噪声子轨迹上训练的 detail expert 更擅长纹理和局部细节；把二者在推理时组合，比用一个 VCM student 拟合全轨迹更稳。它说明 DCM 的核心不是简单加参数，而是把 ODE 轨迹按学习职责切开，使每个 expert 面向更一致的子问题。

本文要解决的具体问题可以概括为：在视频 diffusion teacher 已经足够强的前提下，如何用 consistency distillation 把采样步数大幅降到 4 或 8，同时避免视频中常见的 layout distortion、motion inconsistency、appearance detail degradation。这个问题值得研究，因为视频生成的实际成本通常被多步采样放大；如果少步数蒸馏只保留大致语义但破坏运动和细节，它在广告、短视频、交互式创作中仍不可用。DCM 的价值在于把加速问题改写成“不同噪声区间应由不同专家负责”的结构化蒸馏问题，从而在延迟和质量之间取得更好的 Pareto 点。

2. Idea (核心思想)

DCM 的核心洞察是：视频 diffusion 的 ODE 轨迹具有明显的阶段性，高噪声阶段主要形成全局语义布局和跨帧运动，低噪声阶段主要做细节补全和真实感增强；因此 consistency distillation 不应让一个 student 在所有 timestep 上共享完全相同的优化职责，而应把 student 拆成 semantic expert 和 detail expert，并为每个 expert 设计匹配其职责的训练目标。Semantic expert 负责高噪声子轨迹 $[t_{\kappa },t_N]$，学习语义、布局和运动；detail expert 负责低噪声子轨迹 $[t_0,t_{\kappa }]$，学习局部纹理、边缘和高频细节。

和 LCM、PCM 这类直接把原模型蒸馏到少步数的基线相比，DCM 的根本区别有三点。第一，它不是把所有 timestep 当作同质训练样本，而是显式承认高噪声和低噪声的优化梯度不一致。第二，它不是训练两个完整 student 然后简单 ensemble，而是做参数高效的 dual-expert：先训练 SemE，再用 SemE 初始化 DetE，并只给 DetE 新增 timestep-dependent embedding layers 和 attention LoRA / linear adaptation，让额外成本集中在差异最大的参数位置。第三，它对两个专家使用不同的辅助目标：SemE 加 Temporal Coherence Loss 以约束跨帧变化，DetE 加 GAN Loss 与 Feature Matching 以改善细节分布和真实感。

Figure 4 解读：方法图展示两阶段训练。第一阶段从 teacher 初始化 SemE，在高噪声样本上优化 consistency loss 和 temporal coherence loss；第二阶段从 SemE 初始化 DetE，冻结已有主干，只加入新的 timestep-dependent layers 和 LoRA，在低噪声样本上优化 consistency loss、GAN loss 和 Feature Matching loss。推理时按噪声区间切换专家：高噪声步使用 SemE，低噪声步使用 DetE。这使 DCM 的设计既遵循采样动态，又避免两个完整模型带来的内存和参数翻倍。

Figure 5 解读：这张权重差异分布支持参数高效设计。论文用 normalized L1 distance 比较两个完整专家 denoiser 的权重差异，发现主要差异集中在 timestep embedding 相关层和 attention 的 linear layers，而不是所有参数都需要独立复制。因此 DetE 不需要复制整套模型，只需在这些差异敏感位置加入可训练模块，既保留 SemE 的语义/运动能力，又给低噪声细节学习留下自由度。

一句话总结：DCM 把“少步数视频蒸馏”从一个单模型全轨迹拟合问题，拆成一个带边界 $\kappa$ 的双阶段、双目标、参数高效专家协作问题。这个拆法的重点不是专家命名，而是使每个训练信号进入最适合承担它的参数子空间；SemE 吃高噪声、学大结构与运动，DetE 吃低噪声、学细节与感知质量，推理时二者按噪声区间接力完成少步生成。

3. Method (方法)

3.1 Consistency distillation 基础目标

论文先沿用 consistency distillation 的基本形式。设 teacher 为 $F_T$，student 为 $F_S$，ODE solver 为 $\Phi$，带条件 $c$ 的 noisy sample 为 ${\mathbf{x}}_{t_n}$。student 的目标是把轨迹上的任意点映射到同一终点 $t_{end}$，并与 teacher 推进一步后再由 EMA student 映射的结果一致： ${\mathcal{L}}_{CD}={\mathbb{E}}_{\mathbf{x},t_n}{\Vert \Phi ({\mathbf{x}}_{t_n},F_S({\mathbf{x}}_{t_n},t_n,c),t_{end})-\Phi ({\hat{\mathbf{x}}}_{t_{n-1}},F_S^{-}({\hat{\mathbf{x}}}_{t_{n-1}},t_{n-1},c),t_{end})\Vert }_2^2.$ 其中 teacher 先给出下一点： ${\hat{\mathbf{x}}}_{t_{n-1}}=\Phi ({\mathbf{x}}_{t_n},F_T({\mathbf{x}}_{t_n},t_n,c),t_{n-1}).$ 这个目标的好处是稳定、易训练，并且自然支持少步采样；问题是它默认所有 timestep 的任务可以由同一个 student 均匀吸收。视频生成中这个默认假设不成立：早期步骤的语义和运动变化很大，后期步骤的纹理细节变化很小但对视觉质量敏感。把二者合并会让 loss contribution 与 gradient norm 的差异成为优化冲突。

3.2 用 $\kappa$ 切分 ODE 子轨迹

DCM 把 teacher 的 ODE 轨迹 ${\mathbf{x}}_N,{\mathbf{x}}_{N-1},\dots ,{\mathbf{x}}_0$ 按边界 $t_{\kappa }$ 切成两段。论文默认在 HunyuanVideo 上设置 $N=50$、$\kappa =37$。高噪声子轨迹 $\{{\mathbf{x}}_{t_i}{\}}_{i=\kappa }^N$ 对应语义布局和运动建立；低噪声子轨迹 $\{{\mathbf{x}}_{t_j}{\}}_{j=0}^{\kappa }$ 对应语义 refinement 和高质量细节生成。于是 SemE 和 DetE 的 consistency objectives 分别为： ${\mathcal{L}}_{\text{SemE}}={\mathbb{E}}_{\mathbf{x},t_m\in [t_{\kappa },t_N]}{\Vert \Phi ({\mathbf{x}}_{t_m},F_{\text{SemE}}({\mathbf{x}}_{t_m},t_m,c),t_{\kappa })-\Phi ({\hat{\mathbf{x}}}_{t_{m-1}},F_{\text{SemE}}^{-}({\hat{\mathbf{x}}}_{t_{m-1}},t_{m-1},c),t_{\kappa })\Vert }_2^2.$ ${\mathcal{L}}_{\text{DetE}}={\mathbb{E}}_{\mathbf{x},t_n\in [t_0,t_{\kappa }]}{\Vert \Phi ({\mathbf{x}}_{t_n},F_{\text{DetE}}({\mathbf{x}}_{t_n},t_n,c),t_0)-\Phi ({\hat{\mathbf{x}}}_{t_{n-1}},F_{\text{DetE}}^{-}({\hat{\mathbf{x}}}_{t_{n-1}},t_{n-1},c),t_0)\Vert }_2^2.$ 直觉上，SemE 不需要直接把所有低噪声细节都拟合到最终图像，它只需要把高噪声样本稳定推进到 $t_{\kappa }$ 附近，并保持正确的语义和运动骨架；DetE 则从 $t_{\kappa }$ 附近接手，把语义骨架变成高频细节充分、视觉上真实的视频。这样每个专家的输入分布和目标更窄，优化难度也更接近其能力边界。

3.3 参数高效 Dual-Expert 训练

直接训练两个完整 denoiser 虽然验证了假设，但推理时会增加参数和显存。DCM 的参数高效版本采用两阶段策略：第一阶段，把 SemE 初始化为 teacher $F_T$，在高噪声子轨迹上更新全部参数；第二阶段，把训练好的 SemE 作为 DetE 初始化并冻结，然后新增一套 timestep-dependent embedding layers $\Psi$ 和 attention blocks 里的 LoRA / linear adaptation ${\Lambda }^{†}$，只优化这些新增参数。这样 DetE 不是完整的第二个大模型，而是在 SemE 上附加低噪声细节专家的“差异参数”。

这个设计有一个重要 trade-off：如果只用一个模型，语义和细节信号相互干扰；如果用两个完整模型，质量可能好但参数和显存成本高；DCM 选择中间方案，把共享的语义/通用能力留在 SemE，把低噪声阶段确实需要不同处理的 timestep/attention 参数交给 DetE。Fig.5 的权重差异分析说明这种中间方案不是任意压缩，而是基于两个专家参数差异位置做的结构选择。

3.4 Temporal Coherence Loss：让 SemE 更关注跨帧运动

SemE 负责高噪声阶段，早期输出决定视频的主体运动和空间关系。为避免少步蒸馏破坏运动连贯性，论文引入 Temporal Coherence Loss。先用 SemE 把两个相邻 teacher 轨迹点都推进到 $t_{\kappa }$： ${\mathbf{x}}_{t_{\kappa }}=\Phi ({\mathbf{x}}_{t_m},F_{\text{SemE}}({\mathbf{x}}_{t_m},t_m,c),t_{\kappa }),$ ${\hat{\mathbf{x}}}_{t_{\kappa }}=\Phi ({\hat{\mathbf{x}}}_{t_{m-1}},F_{\text{SemE}}^{-}({\hat{\mathbf{x}}}_{t_{m-1}},t_{m-1},c),t_{\kappa }).$ 然后比较两个结果在时间轴上的 latent 差分： ${\mathcal{L}}_{TC}={\Vert ({\mathbf{x}}_{l:L}^{t_{\kappa }}-{\mathbf{x}}_{0:L-l}^{t_{\kappa }})-({\hat{\mathbf{x}}}_{l:L}^{t_{\kappa }}-{\hat{\mathbf{x}}}_{0:L-l}^{t_{\kappa }})\Vert }_2^2.$ 这里的重点不是让每帧像素静止，而是让相邻时间片之间的变化模式一致。代码实现中，Hunyuan semantic expert 在 fastvideo/distill_dcm_hy_semantic_expert.py 的 distill_one_step 中从 torch.randint(38, num_euler_timesteps) 抽取高噪声 index，并在第 286 行用 model_pred[:,:,3:]-model_pred[:,:,:-3] 与 target 的对应差分做 mse_loss；这和论文公式中的 temporal difference 思想一致，只是具体实现里用了 latent 维度上的 stride 3 差分。

Figure 8 解读：这张消融图显示加入 TC 后，运动更自然、跨帧一致性更好。定量上，Table 3 中 OD+PE 从 Total 83.03 / Quality 84.16 / Semantic 78.53 提升到 OD+PE+TC 的 83.42 / 84.63 / 78.63；在同时使用 GF 时，加入 TC 后从 83.71 / 84.99 / 78.59 变为 83.80 / 85.10 / 78.62。TC 的收益主要体现在质量和运动一致性，而不是单纯把所有指标大幅拉高。

3.5 GAN + Feature Matching：让 DetE 更关注细节分布

DetE 负责低噪声阶段，这个阶段的主要风险是纹理、边缘、局部真实感不足。论文为 DetE 加入 GAN loss 和 Feature Matching loss。先由 DetE 与 teacher/ODE solver 得到两个低噪声端点： ${\mathbf{x}}_{t_0}=\Phi ({\mathbf{x}}_{t_n},F_{\text{DetE}}({\mathbf{x}}_{t_n},t_n,c),t_0),$ ${\hat{\mathbf{x}}}_{t_0}=\Phi ({\hat{\mathbf{x}}}_{t_{n-1}},F_{\text{DetE}}^{-}({\hat{\mathbf{x}}}_{t_{n-1}},t_{n-1},c),t_0).$ 再对它们执行 forward process 得到 fake / real 样本，用 frozen teacher 作为 feature extractor $\Omega$，并用 discriminator head $f_D$ 做对抗训练： ${\mathcal{L}}_{FM}={\mathbb{E}}_{\mathbf{x},t_n}{\Vert \Omega ({\mathbf{x}}_{fake})-\Omega ({\mathbf{x}}_{real})\Vert }_2^2,$ ${\mathcal{L}}_G={\mathbb{E}}_{\mathbf{x},t_n}[1-f_D(\Omega ({\mathbf{x}}_{fake}))]+{\mathcal{L}}_{FM},$ ${\mathcal{L}}_D={\mathbb{E}}_{\mathbf{x},t_n}[f_D(\Omega ({\mathbf{x}}_{fake}))]+{\mathbb{E}}_{\mathbf{x},t_n}[1-f_D(\Omega ({\mathbf{x}}_{real}))].$ released code 中，Hunyuan detail expert 的 fastvideo/distill_dcm_hy_detail_expert.py 明确实现了这一路径：gan_d_loss 和 gan_g_loss 通过 teacher transformer 输出 intermediate features，并在 feature space 上计算 discriminator loss；gan_g_loss 中还对 fake/real features 做 mse_loss 作为 feature matching。distill_one_step_adv 从 torch.randint(0, 38) 采样低噪声 index，构造 fake_adv 与 real_adv，先更新 generator，再打开 discriminator 的 requires_grad 更新判别器。

Figure 9 解读：GF 的效果主要是提升细节真实感。Table 3 中 OD+PE 从 Total 83.03 / Quality 84.16 提升到 OD+PE+GF 的 83.71 / 84.99；OD+PE+TC 再加 GF 后达到 Total 83.80 / Quality 85.10。Fig.9 的视觉对比说明 GAN 和 FM 不是为语义布局服务，而是让 low-noise detail expert 生成的纹理更接近 teacher 的特征分布。

3.6 $\kappa$ 选择与推理切换

$\kappa$ 是 DCM 的关键超参数，因为它决定语义专家和细节专家的边界。论文根据 HunyuanVideo 的推理过程选择 $\kappa =37$：当相邻 timestep 采样结果的 L1 distance 从大幅变化降到很小值时，说明语义布局基本建立，剩余步骤更偏向高频细节。附录进一步说明，推理时经验上把总步数在两个专家之间均分效果较好：8 步时每个专家 4 步，4 步时每个专家 2 步，并且在各自子轨迹内均匀采样。

Figure 10 解读：左图显示相邻采样结果 L1 distance 的转折点约在 step 37，右图比较 $\kappa =28,35,37,39,46$。当 $\kappa$ 偏离语义/细节转折点时，视频质量逐渐下降。这说明 DCM 不是任意二分采样轨迹，而是需要把 expert boundary 放在生成职责自然变化的位置。

3.7 代码到论文的映射与实现差异

Code reference: main @ c7039e8a (2025-06-08) — pseudocode and mapping based on this commit

论文概念	released code 路径	说明
SemE 高噪声训练	fastvideo/distill_dcm_hy_semantic_expert.py / scripts/distill/distill_hy_semantic_expert.sh	采样 index=38..num_euler_timesteps-1，对应 $[t_{\kappa },t_N]$；脚本学习率 1e-6。
DetE 低噪声训练	fastvideo/distill_dcm_hy_detail_expert.py / scripts/distill/distill_hy_detail_expert.sh	采样 index=0..37，加入 LoRA 和新增层，脚本学习率 5e-6。
GAN / FM	fastvideo/distill/discriminator.py 与 distill_dcm_hy_detail_expert.py::gan_g_loss/gan_d_loss	frozen teacher 抽取 intermediate features，discriminator 在 feature space 上训练。
推理	fastvideo/sample/inference_hy.py / scripts/inference/inference_hy.sh	Hunyuan 推理脚本默认 num_inference_steps=4、720×1280、29 frames、model_path ckpt/DCM_HY/。
WAN 泛化	distill_dcm_wan_semantic_expert.py / distill_dcm_wan_detail_expert.py / inference_wan.sh	对应附录中 WAN2.1 泛化结果。

论文公式与 released code 实现差异：当前 public repo 的主线脚本覆盖 HunyuanVideo 和 WAN2.1，没有看到 CogVideoX 专用 distillation script；论文主实验同时报告 HunyuanVideo 和 CogVideoX。另一个实现层面的差异是，论文正文报告 HunyuanVideo distillation 使用 129-frame、1280×720、batch size 6、SemE/DetE 各 1000 iterations，而当前 scripts/distill/distill_hy_semantic_expert.sh 使用 --num_frames 29、--num_latent_t 32、--train_batch_size 1、--max_train_steps 1500，detail script 使用 --num_frames 29、--num_latent_t 16、--max_train_steps 1000。因此实验结果解读应以论文报告配置为准，复现实操应以当前代码 commit 的脚本和 checkpoint 说明为准。

# Component 1: semantic expert high-noise consistency + temporal coherence
for latents, text_cond in semantic_loader:
    x0 = normalize_dit_input(latents)
    eps = torch.randn_like(x0)
    index = torch.randint(38, num_euler_timesteps, (batch_size,))  # high-noise side
    sigma, sigma_prev = solver.sigmas[index], solver.sigmas_prev[index]
    xt = sigma * eps + (1 - sigma) * x0
 
    pred = SemE(xt, timestep=sigma_to_timestep(sigma), cond=text_cond)
    pred_to_boundary = solver.euler_style_multiphase_pred(xt, pred, index, multiphase)
 
    with torch.no_grad():
        teacher_step = teacher(xt, timestep=sigma_to_timestep(sigma), cond=text_cond)
        x_prev = solver.euler_step(xt, teacher_step, index)
        ema_pred = EMA_SemE(x_prev, timestep=sigma_to_timestep(sigma_prev), cond=text_cond)
        target_to_boundary = solver.euler_style_multiphase_pred(x_prev, ema_pred, index, multiphase, reverse=True)
 
    consistency = huber(pred_to_boundary, target_to_boundary)
    temporal = mse(pred_to_boundary[:, :, 3:] - pred_to_boundary[:, :, :-3],
                   target_to_boundary[:, :, 3:] - target_to_boundary[:, :, :-3])
    loss = consistency + temporal
    loss.backward(); optimizer.step(); update_ema(SemE)

# Component 2: detail expert low-noise consistency + GAN/FM
for latents, text_cond in detail_loader:
    x0 = normalize_dit_input(latents)
    eps = torch.randn_like(x0)
    index = torch.randint(0, 38, (batch_size,))  # low-noise side
    xt = add_flow_noise(x0, eps, index)
 
    pred = DetE(xt, timestep=t(index), cond=text_cond, student=True)
    fake_clean = solver.euler_style_multiphase_pred(xt, pred, index, multiphase)
 
    with torch.no_grad():
        teacher_step = teacher(xt, timestep=t(index), cond=text_cond)
        x_prev = solver.euler_step(xt, teacher_step, index)
        target_pred = DetE(x_prev, timestep=t(index - 1), cond=text_cond, student=True)
        real_clean = solver.euler_style_multiphase_pred(x_prev, target_pred, index, multiphase, reverse=True)
 
    fake_adv, real_adv = re_noise_to_intermediate_level(fake_clean, real_clean)
    consistency = huber(fake_clean, real_clean)
    fake_feat = frozen_teacher_features(fake_adv, stride=discriminator_head_stride)
    real_feat = frozen_teacher_features(real_adv, stride=discriminator_head_stride)
    feature_matching = mse(fake_feat, real_feat)
    generator_adv = discriminator_generator_loss(fake_feat)
    generator_loss = consistency + adv_weight * (generator_adv + feature_matching)
    generator_loss.backward(); det_optimizer.step()
 
    discriminator_loss = discriminator_hinge_loss(fake_feat.detach(), real_feat.detach())
    discriminator_loss.backward(); disc_optimizer.step()

# Component 3: DCM inference switching
steps = uniformly_sample_solver_steps(total_steps)
semantic_steps, detail_steps = split_by_kappa_or_evenly(steps, kappa=37)
xt = sample_initial_noise()
for step in semantic_steps:
    xt = solver.step(xt, SemE(xt, step, cond), step)
for step in detail_steps:
    xt = solver.step(xt, DetE(xt, step, cond, student=True), step)
video = vae_decode(xt)

4. Experimental Setup (实验设置)

论文使用两个主干模型评估 DCM：HunyuanVideo 和 CogVideoX。HunyuanVideo 为 13B 参数，CogVideoX 为 2B 参数。基线选择 LCM 和 PCM，因为很多扩散蒸馏方法并未直接应用到视频合成，作者基于这些方法的 official implementations 在相同 base model 上实现对比。评估指标主要是 VBench，分为 Total、Quality、Semantic 等维度；此外还有 user study，用人类偏好补充自动指标。

HunyuanVideo 的论文配置是：teacher 轨迹使用 50 Euler steps，采用 diffusers 默认采样参数；distillation 在 129-frame、1280×720 视频序列上进行，batch size 6；SemE 训练 1000 iterations，learning rate 1e-6；DetE 训练 1000 iterations，learning rate 5e-6。CogVideoX-2B 的论文配置是：teacher 轨迹使用 50 DDIM steps；distillation 在 29-frame、720×480 视频序列上进行，batch size 4；第一阶段约 1000 steps，第二阶段约 500 steps，二者 learning rate 都是 1e-6。所有实验使用 24 张 NVIDIA A100 80GB GPU。

数据集与规模方面，论文正文没有详细说明 distillation training videos 的名称和样本数；released Hunyuan scripts 指向 data/HD-Mixkit-Finetune-Hunyuan/videos2caption.json，但这属于代码默认路径，不能直接替代论文中的 dataset scale 报告。评估时，作者使用 VBench 提供的 prompts 生成视频并计算语义对齐与视觉质量。User study 的样本抽取数量在论文正文中没有详细说明，但表格报告了 HunyuanVideo 与 CogVideoX 上 DCM 相对 LCM / PCM 的偏好百分比。

Figure 6 解读：主视觉对比展示原始模型、LCM、PCM 和 DCM 的生成结果差异。DCM 的定位是尽量接近原始多步模型，同时避免 LCM/PCM 在少步采样中常见的语义变形、细节模糊或局部真实感不足。框选区域强调了 DCM 在物体边缘、纹理和局部一致性上的优势。

Figure 7 解读：这张图对应 OD 和 PE 的消融。OD 说明把 semantic/detail optimization decouple 后，视频中的人物动作、表情细节和局部结构更自然；PE 说明参数高效版本在视觉上接近完整双专家，但显著减少参数和显存负担。它支撑了“分专家有必要，且不必复制两套完整模型”的结论。

5. Experimental Results (实验结果)

主结果显示，DCM 在 4-step 和 8-step 设置下都显著优于 LCM / PCM，并且每步延迟开销几乎相同。HunyuanVideo 50-step 原始模型的 VBench Total 为 83.87，延迟 1504.5 秒；DCM 4-step 达到 Total 83.83、Quality 85.12、Semantic 78.67，延迟 121.52 秒，接近原始模型质量但大幅降低采样步数。8-step DCM 则为 Total 83.86、Quality 85.00、Semantic 79.32，延迟 244.72 秒，基本追平原始模型 Total。CogVideoX 上，原始 50-step Total 为 80.59、延迟 76.50 秒；DCM 4-step 为 79.99、3.31 秒，DCM 8-step 为 80.26、6.58 秒，均优于同样步数的 LCM 与 PCM。

Backbone	Method	Steps	Latency	VBench Total	Quality	Semantic
HunyuanVideo	Original	50	1504.5s	83.87	85.00	79.34
HunyuanVideo	LCM	4	120.68s	80.33	80.83	78.32
HunyuanVideo	PCM	4	120.89s	80.93	81.94	76.90
HunyuanVideo	DCM	4	121.52s	83.83	85.12	78.67
HunyuanVideo	DCM	8	244.72s	83.86	85.00	79.32
CogVideoX	Original	50	76.50s	80.59	81.93	75.23
CogVideoX	DCM	4	3.31s	79.99	81.35	74.56
CogVideoX	DCM	8	6.58s	80.26	81.57	75.03

从效率角度看，DCM 的优势不是单步计算更快，而是用接近 LCM/PCM 的 per-step latency 获得显著更好的质量；HunyuanVideo 4-step DCM 延迟 121.52 秒，和 LCM 120.68 秒、PCM 120.89 秒几乎相同，但 Total 从 80.33/80.93 提升到 83.83。CogVideoX 4-step DCM 延迟 3.31 秒，比 LCM/PCM 的 3.22/3.23 秒略高，但 Total 从 78.88/79.09 提升到 79.99。换言之，DCM 的质量收益主要来自轨迹分解和专家目标，而不是隐藏的更多推理步数或显著更多推理计算。

User study 也支持自动指标：HunyuanVideo 上，用户在 DCM vs LCM 中有 82.67% 偏好 DCM，在 DCM vs PCM 中有 77.33% 偏好 DCM；CogVideoX 上对应为 75.33% 和 72.67%。这说明 VBench 的质量提升不是纯指标现象，人的主观感知也能看到差异。尤其在少步视频生成中，人眼对运动断裂、纹理漂移和局部模糊很敏感，因此 user preference 是必要补充。

消融实验基于 HunyuanVideo，使用 29-frame、1280×720 视频，4 sampling timesteps。四个组件分别是 OD（optimization decoupling）、PE（parameter-efficient dual-expert）、TC（temporal coherence loss）、GF（GAN + Feature Matching）。结果如下：无组件 baseline Total 80.30 / Quality 80.74 / Semantic 78.36；加 OD 后 Total 83.08 / Quality 84.20；OD+PE 为 83.03 / 84.16，说明参数高效化几乎不损失视觉质量；OD+PE+TC 为 83.42 / 84.63 / Semantic 78.63；OD+PE+GF 为 83.71 / 84.99；四者全开为 83.80 / 85.10 / 78.62。这个消融结构清楚地说明：OD 是最大增益来源，PE 保持成本可控，TC 和 GF 分别补运动一致性和细节真实感。

Figure 11 解读：附录中的采样过程可视化展示不同方法在 4-step 过程中如何逐步形成结果。DCM 的早期步骤更快建立稳定语义布局，后期步骤继续补充局部细节；这和 SemE/DetE 的职责切分一致。相比之下，单模型少步蒸馏更容易在某些步骤里同时拉扯布局和细节，导致过早定型或后期修复不足。

Figure 12 解读：第二组采样过程进一步验证 DCM 的阶段性。观察重点不是最后一帧是否单独漂亮，而是每个采样 step 的变化是否符合“先大结构、后细节”的生成规律。DCM 的过程更接近原始多步 teacher 的动态，因此最终视频既保留语义又减少细节退化。

Figure 13 解读：这组 HunyuanVideo 额外视觉结果展示了不同 prompt 下 DCM 与基线的差异。DCM 在复杂主体和背景组合中更少出现局部糊化、主体形变和纹理错乱，说明它不是只对 teaser prompt 有效。

Figure 14 解读：这一组继续展示 HunyuanVideo 上的 qualitative comparison。可以把它和 Table 1 联系起来看：4-step DCM 的 Total 几乎等于 50-step HunyuanVideo，不代表逐像素完全相同，而是整体语义、质量和时序指标在 VBench 维度上保持接近，同时主观视觉也少见明显降级。

Figure 15 解读：第三组 HunyuanVideo 额外结果说明 DCM 对不同场景类型仍能维持细节。对视频蒸馏而言，单帧清晰还不够，跨帧主体和背景的稳定也很关键；这些补充图是对 TC 和 dual-expert 切换有效性的定性补充。

Figure 16 解读：CogVideoX 上的额外视觉对比说明 DCM 的思想不只依赖 HunyuanVideo 架构。虽然当前 public repo 主线没有 CogVideoX 专用脚本，论文实验表明同样的高/低噪声职责分离可以迁移到 2B CogVideoX backbone，并在 4-step / 8-step 下优于 LCM 与 PCM。

附录结果还给出两个有用结论。第一，DCM 可以和其他加速技术叠加，例如与 SVG sparse attention 结合后，在 DCM-Hunyuan 上额外获得 1.33× speedup，同时保持 VBench 83.79%。第二，DCM 对 WAN2.1-T2V 也有泛化性：baseline VBench 为 83.2%，DCM 为 82.9%，说明它处理的是 consistency distillation 中跨噪声水平 loss/gradient contribution 不一致的问题，而不是某个特定 backbone 的偶然现象。局限性也很明确：尽管 4-step 效果好，进一步降到 2-step 时仍难以达到满意质量，作者认为受限于训练数据和训练迭代数，后续需要继续探索更少步数下的高质量合成。