Scaling Image and Video Generation via Test-Time Evolutionary Search

Paper: arXiv:2505.17618 Code: tinnerhrhe/EvoSearch-codes Code reference: main @ e0ed965f (2025-08-19)

1. Motivation (研究动机)

这篇论文关注的问题不是“再训练一个更大的生成模型”，而是：当一个图像或视频生成模型已经训练完毕后，能否在推理阶段投入更多计算，稳定地换来更好的样本质量、文本对齐与人类偏好分数。这个问题之所以重要，是因为大规模预训练继续扩展数据、参数与训练算力的边际成本越来越高，而语言模型领域已经证明 test-time scaling（TTS）可以成为训练时扩展之外的第二条性能提升路线。图像和视频生成也天然有推理时搜索空间：扩散模型和流模型从高斯噪声或 latent state 开始，沿着一条去噪轨迹逐步到达最终图像/视频；同一个 prompt 下，初始噪声、随机采样路径、以及中间状态的微小改变都会影响最后结果。因此，如果能在推理时对这条轨迹做有结构的搜索，就有可能不改模型权重、不增加训练数据，也获得更强的生成能力。

现有视觉生成的 TTS 方法有三个关键短板。第一，Best-of-N 只是在起点一次性采样很多候选，然后完整生成到 $x_0$ 后挑最高 reward 的结果；它容易理解，也能提高最优样本概率，但效率低，因为大量低质量候选也要走完整条去噪路径。第二，Particle Sampling 在去噪路径上维护粒子并重采样，能比 Best-of-N 更早丢弃低分候选，但它主要在已有候选集合内筛选与传播，探索能力仍被固定候选池限制。第三，reward-guided 推理容易出现 reward over-optimization：推理计算继续增加时，模型可能利用 reward model 的偏差，追逐狭窄高分模式，导致样本多样性下降甚至模式坍塌。对视频生成来说，这个问题更明显，因为视频还要同时满足视觉质量、运动连贯性、文本语义、物理合理性等多个目标；单一 reward 的局部优化很容易损害未被 reward 显式覆盖的维度。

论文的另一个动机来自 flow-based 模型。扩散模型通常有随机 SDE 采样过程，中间状态天然带有噪声注入；但很多 flow 模型使用确定性 ODE 采样，给定同一初始噪声后路径几乎固定，传统粒子式搜索很难在中途重新扩展候选。作者因此把 ODE 采样改写为可注入随机性的 SDE 过程，使 Flux.1-dev、Wan、HunyuanVideo 这类 flow 模型也能参与同一套推理时搜索框架。这里的目标不是训练一个 reward model，也不是对生成模型做梯度更新，而是把“沿去噪轨迹寻找高 reward 样本”重新表述为一个主动探索问题。

Figure 1 解读：论文首页展示了 EvoSearch 随着 NFEs 增加而改进 SD2.1、Flux.1-dev、Wan 1.3B 与 HunyuanVideo 的样例。关键点不是单次采样更幸运，而是同一基础模型在更高 test-time compute 下持续改善，并且小模型 Wan 1.3B 在相近推理时间下可以超过更大的 Wan 14B。

这篇论文的主问题可以概括为：如何在扩散/流式图像视频生成中，把额外推理计算转化为稳定、可扩展、兼顾多样性的质量提升。它的价值在于提供一种“训练后扩展”的通用范式：如果一个已有生成模型部署成本固定，用户或系统可以按需求调节推理时预算，在低预算时快速生成，在高预算时进行更深入搜索；这类似语言模型中的 longer thinking / sampling search，但落在视觉生成的连续高维 latent trajectory 上。

2. Idea (核心想法)

EvoSearch 的核心洞察是：去噪轨迹不是只能被动执行的固定采样过程，而可以被看成一个随时间推进的进化过程。传统 evolutionary algorithm 在一个固定解空间中维护 population，反复进行 fitness evaluation、selection、mutation；EvoSearch 则让 population 沿着 $x_T\to x_0$ 的去噪时间轴移动。每个 evolution timestep 上，算法先把当前 latent state 完整去噪得到候选图像或视频，用外部 reward model 评估其 fitness；然后保留少量 elite parents，通过 tournament selection 选择父代，再对初始噪声或中间去噪状态做 mutation，生成下一代 children。新的 children 继续沿后续去噪步骤推进，直到下一次 evolution timestep 再被评估与进化。

这与 Best-of-N 的本质差别是“主动扩展搜索空间”。Best-of-N 在起点抽样后只能选择已有候选；EvoSearch 在高分候选附近继续生成 offspring，相当于发现局部高 reward 区域后，在该区域周围继续探索。它与 Particle Sampling 的差别在于 mutation 操作：粒子采样更像重采样/重权重，候选来源仍受现有粒子限制；EvoSearch 则显式向父代附近注入随机扰动，在保留高分区域密度的同时创造新 latent state。这使它能够同时实现 exploitation（沿高 reward 父代继续前进）和 exploration（通过噪声扰动发现新模式）。

论文把目标分布写成 reward-regularized distribution： $p^{\mathrm{tar}}:=\arg {\max }_{p^{\prime }}{\mathbb{E}}_{x_0\sim p^{\prime }}[r(x_0)]-\alpha {\mathcal{D}}_{\mathrm{KL}}[p^{\prime }|p_0^{\mathrm{pre}}],$ 并可重写为 $p^{\mathrm{tar}}=\frac{1}{\mathcal{Z}}{p}_0^{\mathrm{pre}}(x_0)\exp \left(\frac{r(x_0)}{\alpha }\right).$ 这说明理想分布应当偏向高 reward 样本，但不能偏离预训练分布太远；难点是归一化常数 $\mathcal{Z}$ 在高维图像/视频空间中不可计算。Best-of-N 和 Particle Sampling 都可看成对这个目标分布的近似采样；EvoSearch 的贡献是用去噪感知的 evolution schedule、selection 与 mutation 机制，使近似采样更高效且不容易陷入单一模式。

> Figure omitted from public site because `figs_visualize_v3.svg` is 34.5 MiB and exceeds the Cloudflare Pages single-file limit; the original asset remains in the local Obsidian vault.

Figure 2 解读：二维高斯混合实验说明了作者想解决的 reward hacking / mode collapse 问题。只追求 reward 的搜索可能集中到目标分布中的少数模式，而 EvoSearch 通过 population 与 mutation 保持多个模式的覆盖，目标是更接近多峰 target distribution。

一句话说，EvoSearch 的 idea 是“把去噪路径变成可进化的 population trajectory”。它不需要训练、微调或梯度回传；只依赖一个可调用的 reward function，例如 ImageReward、CLIPScore 或 VideoReward。它也不要求 reward 与最终评估指标完全一致，因为 population diversity 和中间状态探索能缓解过度优化单一 reward 的风险。论文建议的类别是 Multimodal Generation / Reasoning & Test-Time Scaling，我认为非常合适：它的主要贡献不是新的视频 backbone，也不是加速蒸馏，而是把推理时计算预算转化为视觉生成质量的 test-time reasoning/search 机制。

3. Method (方法)

3.1 总体框架：沿去噪轨迹推进的进化搜索

EvoSearch 输入一个预训练生成模型 $p_{\theta }$、一个 evolution schedule $\mathcal{T}=\{T,\cdots ,t_j,\cdots ,t_n\}$、一个 population size schedule $\mathcal{K}=\{k_{\mathrm{start}},k_T,\cdots ,k_{t_j},\cdots ,k_{t_n}\}$，以及一个 reward function $r$。算法先在 $T$ 时刻采样 $k_{\mathrm{start}}$ 个高斯噪声作为第一代 population；之后在普通去噪循环中，每当当前 timestep 落在 $\mathcal{T}$ 内，就调用 EvoSearch 的局部进化过程。局部过程会从当前状态出发继续 denoise 到若干后续 evolution states，并把这些中间 latent 存入 population list；然后把每个候选完整解码到 $x_0$，计算 reward，更新 reward list；最后进行 elite preservation、tournament selection 和 mutation，输出下一代 children 作为后续去噪的输入。

Figure 3 解读：图中 population 不是固定在同一 latent 空间，而是随去噪时间向前移动。每个 evolution point 都会评估、筛选并变异当前候选，从而把更多计算集中到可能产生高质量结果的路径上；这也是它比 Best-of-N 更省无效计算、比纯重采样更有探索能力的关键。

论文的 evolution schedule 解决“每一步都进化太贵”的问题。扩散/流模型相邻 timestep 的变化通常不大，如果每个 denoising step 都完整评估所有 population，会产生大量重复计算。因此作者只在均匀间隔的若干 timestep 上进化，计算预算越大可以放置更多 evolution points。population size schedule 则允许随着预算变化调节每一代 children 数量；附录说明实验中第一代 $k_{\mathrm{start}}$ 设置为其他 generation 的 2 倍，因为初始噪声空间更大，早期多探索能提高后续上限。

3.2 Fitness evaluation：直接用完整去噪结果打分

对任意 evolution timestep $t_i$ 的父代状态 $x_{t_i}$，EvoSearch 定义 fitness 为 $R(x_{t_i})={\mathbb{E}}_{x_0\sim p_0(x_0|x_{t_i})}[r(x_0)|x_{t_i}].$ 很多前人方法用 lookahead estimator 或 Tweedie’s formula 从 noisy state 近似预测 $x_0$，这样会引入估计误差。EvoSearch 选择更直接但更贵的做法：把候选完整去噪/解码成 clean image 或 video，再用 reward model 计算分数。这与 test-time scaling 的设定一致，因为推理时额外计算预算本来就是可调资源；用真实 $x_0$ 打分换来更可靠的 selection 信号，尤其对视频 reward 更重要，因为 temporal consistency、motion quality 和 text alignment 很难从早期 noisy latent 准确估计。

3.3 Selection：elite preservation + tournament selection

每一代中，EvoSearch 保留 $m$ 个 top-fitness elite parents，确保当前已发现的高分候选不会被 mutation 破坏。剩余 $k_{t_i}-m$ 个 parent 通过 tournament selection 产生：每轮随机抽取 $b<k_{t_i}$ 个候选，只选择其中 reward 最高者成为 parent。这样既比纯 top-k 更有多样性，也比完全随机更偏向高 reward 区域。开源实现中，这一逻辑非常直接：torch.topk 取 elites，然后对每个 non-elite child 用 torch.randperm(population.shape[0])[:int(population.shape[0]*0.9)] 抽取候选子集，取 torch.argmax(candidate_rewards) 作为 winner。也就是说实现中的 tournament size 约为 population 的 90%，比经典小规模 tournament 更偏向 exploitation；这可能是为了在有限 NFEs 下更稳定地利用高 reward 样本。

3.4 Mutation：初始噪声和中间状态用不同扰动

EvoSearch 的 mutation 不是随意加噪声，而是按 denoising state 的分布性质设计。初始状态 $x_T$ 本身来自高斯分布，因此 mutation 要保持高斯性： $x_T^{\mathrm{child}}=\sqrt{1-{\beta }^2}{x}_T^{\mathrm{parent}}+\beta {ϵ}_T,{ϵ}_T\sim \mathcal{N}(0,I).$ 这里第一项保留 parent 所在高 reward 区域的密度，第二项注入探索噪声；$\beta$ 控制随机性强度。中间状态 $x_t$ 经过若干步去噪后不再是高斯分布，不能继续用同一公式。作者改用 reverse-time SDE 启发的扰动： $x_t^{\mathrm{child}}=x_t^{\mathrm{parent}}+{\sigma }_t{ϵ}_t,{ϵ}_t\sim \mathcal{N}(0,I).$ ${\sigma }_t$ 是 SDE denoising process 中的 diffusion coefficient，作用是按当前 timestep 的噪声尺度注入扰动。直觉上，早期状态可承受更大的随机性，后期状态应更保守，以免破坏已形成的结构。开源代码与论文公式一致：当 generation_steps==0 时使用 parents * sqrt(1 - mutation_rate**2) + mutation_rate * randn_like(parents)；否则使用 parents + mean_std * randn_like(parents)。其中 mean_std 来自 scheduler 当前 step 的噪声尺度。

Figure 4a 解读：SD2.1 的 t-SNE 可视化显示，相邻 latent state 往往对应相近 ImageReward 分数，高质量样本不是孤立点。这为“在高分父代附近 mutation”提供了经验依据：局部邻域探索有机会产生新高分样本，而不是只能重新从全局噪声分布盲采。

Figure 4b 解读：Flux.1-dev 上也观察到类似结构，说明这个局部平滑性不只属于扩散模型。论文因此把 deterministic ODE flow 改造成 SDE-like sampling，使 flow 模型也能获得中间状态 mutation 的可用随机性。

3.5 与 diffusion / flow 的统一

扩散模型本来可以使用 SDE sampler，因此中间状态 mutation 与 scheduler 的 ${\sigma }_t$ 自然对应。flow model 的原始 ODE 形式是 $x_{t-1}=x_t+u_t(x_t)dt$，给定当前状态后下一步确定，缺少中间随机性。为了让 EvoSearch 适用于 Flux、Wan、HunyuanVideo，作者把 ODE 改写为 SDE 采样，在实现中使用 diffusers 的 FlowDPMSolverMultistepScheduler 和 sde-dpmsolver++。这一步很关键：如果没有 SDE 化，flow 模型只能在初始噪声层面搜索，无法在中间状态继续通过 mutation 拓展路径。

3.6 开源代码映射与复现注意

Code reference: main @ e0ed965f (2025-08-19)

Paper Concept	Source File	Key Class/Function
SD2.1 image EvoSearch 入口	SD2.1/evosearch.py	argparse 参数、初始化 latent、调用 EvolStableDiffusion.generate
SD2.1 selection/mutation	SD2.1/evo_pipe.py	EvolStableDiffusion.evosearch 与 generate denoising loop
Flux image EvoSearch 入口	FLUX/evosearch.py	解析 evolution_schedule、population_size_schedule、guidance_reward
Flux SDE flow implementation	FLUX/flux_evol_pipe.py	FluxPipelineEvol.evosearch，使用 packed latents 与 flow scheduler
Wan video EvoSearch 入口	Wan/evosearch.py	构造 Wan 1.3B、加载 VideoReward、生成 33 帧视频
Wan video selection/mutation	Wan/Wan21/wan/text2video.py	WanT2VEvol.evosearch，VideoReward 打分、top-k elite、tournament parent、mutation
Reward utilities	SD2.1/rewards.py, FLUX/rewards.py, Wan/VideoReward/*	ImageReward/CLIPScore/VideoReward 调用与打分封装

基于代码，可以把 EvoSearch 的执行流程写成如下 pseudocode（伪代码）：

# from paper algorithm + EvoSearch-codes main@e0ed965f
population = sample_gaussian(k_start)
P = [[] for _ in evolution_schedule]
R = [[] for _ in evolution_schedule]
for t in reversed(denoising_steps):
    if t in evolution_schedule:
        # complete candidate rollouts to x0/video and cache intermediate states
        population_states, full_outputs = rollout_from(population, t)
        rewards = reward_model(full_outputs, prompt)
        for future_generation in range(g, len(R)):
            R[future_generation].append(rewards)
        P[g].append(population_states[g])
        all_population = concat(P[g])
        all_rewards = concat(R[g])
        elites = all_population[topk(all_rewards, elite_size)]
        parents = []
        for _ in range(population_size_schedule[g + 1] - elite_size):
            candidates = random_subset(all_population, ratio=0.9)
            parents.append(best_by_reward(candidates, all_rewards))
        if g == 0:
            children = sqrt(1 - beta**2) * parents + beta * randn_like(parents)
        else:
            children = parents + sigma_t * randn_like(parents)
        population = concat(elites, children)
        g += 1
    population = denoise_one_step(population, t)
return best_output_seen

代码层面有一个值得注意的复现细节：论文附录写 SD2.1 与 Flux.1-dev 的 mutation rate $\beta =0.3$，SD2.1 使用 $512\times 512$、guidance scale 5.5、DDIM；Flux 使用 $512\times 512$、guidance scale 5.5、sde-dpmsolver++；Wan 使用 $832\times 480$、33 frames、guidance scale 5.0；HunyuanVideo 使用 $544\times 960$、33 frames、guidance scale 1.0、embedded guidance scale 6.0、30 inference steps。

开源 README 的示例命令给出了 schedule，例如 SD2.1: --evolution_schedule 0 20 30 40 --population_size_schedule 42 26 26 26 30，Flux: 5 20 30 40 与 14 7 7 7 10，Wan: 5 20 30 45 与 10 5 5 5 5。但是代码 argparse 默认 --mutation_rate 是 0.2，README 示例没有显式传入 0.3；如果要严格复现实验，应显式设置 --mutation_rate 0.3，否则运行示例会使用代码默认值。

4. Experiments (实验)

4.1 设置：跨图像、视频、扩散、流模型评估

图像生成使用 DrawBench，共 200 个 prompts、11 个类别；评估指标包括 ImageReward、HPSv2、Aesthetic 与 CLIPScore，其中 ImageReward 和 CLIPScore 也被用作 search guidance reward。模型包括 SD2.1（865M 参数，diffusion-based）和 Flux.1-dev（12B 参数，rectified flow-based）；两者都使用 50 denoising steps 和 guidance scale 5.5。视频生成使用 VideoReward 作为 guidance reward，VideoReward 基于 Qwen2-VL-2B，覆盖 visual quality、motion quality、text alignment 等维度。自动评估使用 VBench 与 VBench2.0 的 625 个 prompts，涵盖 Dynamic、Semantic、Human Fidelity、Composition、Physics、Aesthetic 等 6 类；人工评估使用 VideoGen-Eval 中 200 个 prompts。视频模型包括 Wan 1.3B、Wan 14B 与 HunyuanVideo 13B。

主要 baseline 是 Best-of-N 与 Particle Sampling。公平性上，作者给各方法相同 guidance reward 和随机种子，并以 NFEs 或相近推理时间衡量 test-time compute。实验不是只看单一高分样例，而是覆盖：随着 compute 增加是否单调提升、是否能泛化到未被 guidance reward 直接优化的指标、视频模型是否同样受益、人类偏好是否一致、多样性是否保留，以及 schedule/population 的 ablation。

4.2 图像生成：EvoSearch 随推理计算持续扩展

在 DrawBench 上，EvoSearch 在 SD2.1 与 Flux.1-dev 上都表现出更好的 scaling behavior。论文用 ImageReward 和 ClipScore 分别作为 guidance reward；图像结果显示，随着 NFEs 增加，EvoSearch 的曲线持续提升，并且整体高于 Best-of-N 和 Particle Sampling。作者特别指出，12B 参数的 Flux.1-dev 在继续增加 compute 时仍能受益，而 SD2.1 在足够推理预算下甚至可以超过 GPT4o 的参考水平。这一结果支持论文主张：TTS 对视觉生成不是只在小模型上偶然有效，而是对 diffusion 和 flow 两类模型都有可扩展性。

Figure 5a 解读：以 ImageReward 为 guidance reward 时，EvoSearch 在 SD2.1 与 Flux.1-dev 上随 NFEs 增加保持更稳定的提升，体现了直接在高 reward 区域继续 mutation 的收益。

Figure 5b 解读：以 ClipScore 为 guidance reward 时，EvoSearch 仍优于 Best-of-N 和 Particle Sampling，说明优势不是 ImageReward 单一指标的偶然现象。

未见指标上的泛化也很关键。论文用 ClipScore 作为 guidance reward，再观察 ImageReward、HPSv2、Aesthetic 等 out-of-distribution metrics。结果表明 EvoSearch 在不同模型和指标上仍有更稳定提升；特别是 Aesthetic 与 ClipScore 不完全对齐时，Particle Sampling 更容易出现性能退化，而 EvoSearch 由于保留 population diversity，退化较小。这说明 EvoSearch 并非只学会“钻某个 reward 的空子”，而是在相对广的高质量区域内探索。

Figure 6 解读：这里关注 guidance reward 之外的指标。EvoSearch 如果只是在优化 ClipScore 的漏洞，那么 HPSv2 或 Aesthetic 可能会下降；图中更稳定的跨指标表现说明 evolution + diversity 机制对 reward hacking 有一定缓冲。

4.3 视频生成：对 Wan 与 HunyuanVideo 仍有效

视频实验更能说明方法的通用性，因为视频生成的 latent 更大，评估更复杂，且 flow 模型的 deterministic ODE 采样需要改造成 SDE 才能中途搜索。论文报告，在 VBench/VBench2.0 的 VideoReward 指标上，Wan 1.3B 使用 EvoSearch 比 Best-of-N 高 32.8%、比 Particle Sampling 高 14.1%；在 HunyuanVideo 13B 上，EvoSearch 比 Best-of-N 高 23.6%、比 Particle Sampling 高 20.6%。在 VideoGen-Eval prompts 上，EvoSearch 也比 Best-of-N 与 Particle Sampling 分别高 22.8% 和 18.1%。这些百分比说明 EvoSearch 不是只改善静态图像；它也能在视频的语义对齐、背景一致性和质量维度上带来收益。

Figure 7a 解读：VBench/VBench2.0 上的 VideoReward 柱状图显示，EvoSearch 对 Wan 1.3B 与 HunyuanVideo 都带来更高分数，支持方法跨视频模型迁移。

Figure 7b 解读：VideoGen-Eval 上的结果重复了同一趋势，说明收益不是某个自动评估集特有，而能迁移到另一组 prompts。

更细的 VBench unseen metrics 显示，Wan 1.3B 原始平均分为 46.59，Best-of-N 为 47.04，Particle Sampling 为 45.39，而 EvoSearch 为 48.71；HunyuanVideo 13B 原始平均分为 47.58，Best-of-N 为 45.86，Particle Sampling 为 44.55，EvoSearch 为 49.48。值得注意的是，HunyuanVideo 的 Physics 指标从 56.10 提升到 61.54，而 Best-of-N 和 Particle Sampling 分别降到 47.62 与 54.29；这支持作者关于“未见 reward 维度仍能稳健”的说法。Wan 的 Semantic 指标所有方法都有下降，但 EvoSearch 从 16.83 降到 15.51，下降幅度小于 Best-of-N 的 13.67 和 Particle Sampling 的 12.67。

Figure 8 解读：定性视频样例强调背景一致性和文本对齐。论文认为 Particle Sampling 可能理解复杂 prompt 失败，Best-of-N 视觉质量较差，而 EvoSearch 更容易同时保持画面质量与语义匹配。

4.4 人类评估、多样性与小模型扩展

人类评估覆盖 Visual Quality、Motion Quality、Text Alignment 和 Overall Quality 四个维度，EvoSearch 在这些维度上相对 baseline 有更高 win rate。虽然具体图中是百分比柱状展示，但论文文字结论明确：专业标注者的偏好与自动 reward 结论一致，说明 VideoReward 引导下的改进不完全是自动指标幻觉。

Figure 9 解读：人工评估给了自动指标之外的验证。视频任务中 motion quality 和 text alignment 往往难被单一 reward 完整捕捉，因此人类偏好的提升增强了方法可信度。

多样性实验从 DrawBench 随机选 10 个 prompts，每个 prompt 生成 10 张图，在 $100\times$ 推理计算下比较 ImageReward 与 CLIP feature L2 distance。表 2 结果为：Best-of-N reward 0.16、diversity 0.62；Particle Sampling reward 0.13、diversity 0.94；EvoSearch reward 0.18、diversity 1.34。也就是说 EvoSearch 同时达到最高 reward 和最高 diversity，而不是用多样性换质量或用质量换多样性。

Figure 10 解读：多样性图补充了表 2。EvoSearch 通过不断在高 reward 父代周围变异，能够产生不同背景、姿态或风格的文本对齐图像；这正是它相对 reward over-optimization 的核心优势。

最有工程意义的结果是小模型扩展：在与 Wan 14B 相同推理时间下，Wan 1.3B + EvoSearch 的 VideoReward 为 -0.15，而 Wan 14B 为 -1.24。由于 VideoReward 分数越高越好，这说明更小模型在高 test-time compute 下可以超过大约 10 倍参数量的模型。这不是说 EvoSearch 永远替代大模型训练，而是说明当部署受显存、模型尺寸或加载成本限制时，推理时搜索是一种可行的质量补偿方式。

4.5 Ablation：schedule 与 population 的作用

附录 ablation 研究了 population size schedule $\mathcal{K}$ 与 evolution schedule $\mathcal{T}$。结果显示，第一代更大的 $k_{\mathrm{start}}$ 通常能提升性能，因为起点噪声空间决定后续可探索区域；同时，均匀间隔的 evolution schedule 表现较好，说明过度集中在某些 timestep 未必最优。直觉上，早期进化帮助发现潜在高 reward 模式，中期 mutation 帮助调整结构，后期过强扰动则可能破坏细节，因此 schedule 需要平衡覆盖与扰动强度。

Figure 11 解读：population ablation 支持“初始广泛探索”的设计。若 $k_{\mathrm{start}}$ 太小，后续 mutation 只能在有限模式附近搜索；若第一代较大，算法更可能捕获多峰目标分布中的多个候选区域。

Figure 12 解读：evolution schedule ablation 说明搜索点位置本身影响效果。均匀间隔能让算法在去噪轨迹多个阶段调整，而不是只在起点或终点做局部选择。

5. Limitations (局限与启发)

第一，EvoSearch 把额外推理计算转化为质量提升，但成本仍然真实存在。它需要对多个 population 完整或部分去噪、解码并调用 reward model；对视频尤其昂贵，因为每个候选都要生成多帧并执行 VideoReward 推理。论文用 NFEs 和相近推理时间衡量预算，但实际部署时还要考虑显存峰值、batching、reward model latency、视频解码/编码开销。对于低延迟交互式场景，EvoSearch 更适合作为高质量模式或离线生成模式，而不是替代单次采样。

第二，方法强依赖 reward model 的可靠性。EvoSearch 通过 diversity-preserving mutation 缓解 reward hacking，但无法完全消除 reward bias。如果 reward 对某些视觉伪影、风格偏好或视频运动异常不敏感，算法仍可能放大这些偏差。论文展示了未见指标和人工评估上的稳健性，但这些评估仍覆盖有限 prompt 和模型；在更长视频、更复杂物理交互、多角色一致性或安全约束下，reward 设计仍是瓶颈。一个自然后续方向是使用多 reward ensemble 或基于 uncertainty 的 selection，避免单一 reward 主导所有 parent selection。

第三，flow 模型的 SDE 化是一个工程上重要但可能影响分布的改动。对 deterministic ODE sampler 注入随机性有利于搜索，但也可能改变原模型默认 sampling behavior；不同 scheduler、sigma schedule、guidance scale 与 mutation rate 的组合会影响最终质量。论文附录给出 $\beta =0.3$ 等设置，但开源代码示例默认 mutation rate 为 0.2，这提示复现实验时必须区分 paper setting、README command 和 argparse default。对于后续工作，最好把每个实验的 schedule、population、mutation、scheduler 与 reward 配置保存为明确 config，而不是只依赖 README 示例。

第四，EvoSearch 的 selection 实现偏 exploitation。代码中的 tournament candidates 约为 population 的 90%，这意味着 winner 很可能来自较高分区域；再加上 elite preservation，可以保证收敛稳定，但在 reward landscape 很崎岖或 prompt 需要多种语义组合时，过强的 exploitation 可能降低探索。论文的 diversity 结果表明当前设置有效，但不同任务可能需要自适应 tournament size、temperature selection 或 novelty-aware parent selection。

第五，本文的主要贡献是推理时搜索框架，而不是新的模型结构。因此它的优势与基础模型能力上限绑定：如果 base model 完全无法表达某个 prompt 所需概念，EvoSearch 只能在已有生成分布附近探索，不能凭空学习新概念。表中 Wan 1.3B + EvoSearch 超过 Wan 14B 是很强的证据，但应理解为在给定 benchmark、相近推理时间和 reward setup 下成立；它不代表小模型在所有长视频、多场景或复杂推理 prompt 上全面替代大模型。

对实践的启发是：视觉生成的 test-time scaling 需要同时设计搜索空间、评估信号和多样性维护。只增加采样次数是最朴素的 TTS；只做重采样容易被候选池限制；只优化 reward 又容易模式坍塌。EvoSearch 给出一个可复用模板：先把采样过程转成可操作的 stochastic trajectory，再在关键 timestep 上保存 population、用完整输出打分、保留 elite、用 tournament 选 parent，并用与 state distribution 匹配的 mutation 产生 offspring。这个模板可以进一步扩展到多目标 reward、用户偏好交互式选择、长视频分段搜索，或结合 planning-style prompt decomposition 的多阶段生成。