扩散模型推测采样新突破：RASS 利用候选排序提升验证效率
扩散模型加速的新思路：从「生成顺序」到「排序耦合」
扩散模型（Diffusion Model）在图像生成领域取得了令人瞩目的成果，但其迭代式采样过程往往需要数百步才能生成一张高质量图像，推理成本居高不下。推测采样（Speculative Sampling） 作为一种加速策略，核心思路是用一个轻量级的「草稿模型」快速生成候选状态，再让目标模型并行验证，从而在保持目标分布不变的前提下减少目标模型的调用次数。
近期，Diffusion Greedy Rejection Sampling（D-GRS） 等基于树结构的推测采样方法，通过在每个节点生成多个条件独立候选，比单链草稿更充分地利用并行计算预算。然而，D-GRS 在验证阶段按照候选的生成顺序依次测试，忽略了候选之间可能存在的、无需额外目标模型评估即可获得的排序信息。
RASS：用「排序感知列表耦合」重新设计验证规则
针对这一局限，Marcello Bullo、Yanxiao Liu、Öykü Sıla Güner、Arpan Mukherjee 和 Deniz Gündüz 在论文 《Rank-Aware Speculative Sampling for Diffusion Draft Trees》 中提出了 RASS（Rank-Aware Speculative Sampling）。
RASS 的核心创新在于：
- 利用候选排序信息：沿着「提议分布—目标分布」的均值位移方向对草稿候选进行排序，这一排序无需额外调用目标模型即可获得；
- 优化排序权重：通过采样一个排序索引，并优化其权重，使「被选中的提议分布」与目标分布之间的全变差（Total Variation） 最小化；
- 精确采样保证：最终选中的候选与目标分布实现最大耦合，并通过残差修正确保对任意排序权重选择都能实现精确采样。
简言之，RASS 将验证过程从「按生成顺序逐个测试」转变为「基于排序的加权耦合」，在不牺牲采样正确性的前提下，更高效地利用每一次目标模型评估。
多场景实验验证：CIFAR-10 上提升约 20%
研究团队在多个基准上对 RASS 进行了评估：
- 高斯混合目标分布
- FFHQ 无条件像素空间生成
- CIFAR-10 条件生成
- 基于 Stable Diffusion 3.5 的潜在扩散，使用 COCO2014 提示词
评价指标为「标准采样与推测采样的目标模型评估次数之比」。结果显示，在相同计算预算下，RASS 在所有评估场景中均优于 D-GRS，其中在 CIFAR-10 上提升幅度达到约 20%。
为什么值得关注
扩散模型的推理效率一直是落地部署的关键瓶颈。RASS 的意义不仅在于具体数字的提升，更在于它揭示了一个被此前方法忽视的维度：草稿候选的排序本身携带信息。通过列表耦合与排序权重优化，RASS 为推测采样提供了一个更精细的验证框架，且理论上适用于任何基于树结构的扩散草稿机制。
随着 Stable Diffusion 3.5 等模型在产业界的广泛应用，这类「不改变输出分布、只优化验证过程」的加速方法，有望成为降低推理成本的重要工具。论文已提交至 arXiv（编号 2610.02251），相关代码与更多细节值得后续关注。
