一致性模型

能把噪声一步映射回数据的生成模型，用来把扩散的多步采样压到一两步

一致性模型由 OpenAI 的 Yang Song 等人在 2023 年提出（ICML 2023）。扩散模型生成时要沿去噪轨迹一步步走，常需几十到上百步，很慢。一致性模型训练一个函数，让同一条轨迹上任意时刻的带噪样本都映射到同一个终点（干净数据），这一性质叫「自一致性」；于是一步就能从纯噪声生成样本，也可以多走几步换取更高质量。训练有两种方式：从已训好的扩散模型蒸馏（一致性蒸馏），或直接从头训练。机器人方向，Prasad、Bohg 等人 2024 年的 Consistency Policy 把扩散策略蒸馏成一致性策略，推理比最快的替代加速方法还快约一个数量级、成功率相当，适合算力有限的机器人；ConRFT 等工作也用一致性策略做 VLA 的强化微调。

例子Consistency Policy 在 6 个仿真任务和 3 个真机任务上用笔记本 GPU 推理，速度约为其他加速方法的 10 倍，成功率与原扩散策略接近。

也叫

一致性策略、Consistency Policy、一致性蒸馏、Consistency Distillation

相关

扩散模型、扩散策略、单步生成、知识蒸馏、平均流、ConRFT

来源

Consistency Models (arXiv 2303.01469)
Consistency Policy: Accelerated Visuomotor Policies via Consistency Distillation (arXiv 2405.07503)