ARTICLE · 人工智能
CVPR 2026 Highlight 丨 用“几何感知”把扩散 Transformer 采样做成免训练加速器
一语总结本文介绍了 CVPR 2026 Highlight 工作 GeoRK2，这是一种免训练的扩散 Transformer 加速框架，通过结合二阶 Runge-Kutta 积分与特征空间几何结构，解决了大步采样中的“流形漂移”问题，实现了 4-5 倍的加速。
文章针对扩散模型（如 DiT、FLUX、HunyuanVideo）采样步数多导致的推理延迟问题，提出了 GeoRK2 加速框架。作者指出，传统加速方法在减少步数时会因忽略特征空间的弯曲几何结构而导致“流形漂移”，从而降低生成质量。GeoRK2 通过三个核心模块——几何感知 RK2 预测、低秩度量校正以及自适应稳定机制，在不重新训练模型的前提下，利用模型内部激活的低秩主方向来约束采样轨迹。实验证明，该方法在图像和视频生成任务中均能实现 4-5 倍的加速，并保持极高的生成质量。
- 扩散采样在大步长下存在“流形漂移”问题。
传统方法假设特征空间是平直的，但实际特征变化集中在低维弯曲流形上，大步采样会导致轨迹切过曲率，偏离模型学到的正确方向。
- GeoRK2 利用几何感知 RK2 进行预测。
在进行中点预测时，将更新投影到模型激活的低秩主方向上，确保预测沿着模型最有信心的主要特征方向进行，抑制噪声。
- 通过低秩几何校正优化轨迹。
利用截断 SVD 近似局部协方差矩阵来估计特征空间的几何度量，并通过 metric-preconditioned correction 修正预测偏差。
- 引入自适应稳定机制防止发散。
通过监测采样轨迹的加速度方差，在模型状态（如从布局转向细节）剧烈切换时自动切换至保守模式，确保生成稳定性。
- 该方法具有极高的工程落地价值。
作为免训练、可插拔的推理插件，在 DiT、FLUX 和 HunyuanVideo 上实现了 4-5 倍加速，且额外的计算开销仅约 3.8%。
CVPR 2026 Highlight 丨 用“几何感知”把扩散 Transformer 采样做成免训练加速器
文章针对扩散模型（如 DiT、FLUX、HunyuanVideo）采样步数多导致的推理延迟问题，提出了 GeoRK2 加速框架。作者指出，传统加速方法在减少步数时会因忽略特征空间的弯曲几何结构而导致“流形漂移”，从而降低生成质量。GeoRK2 通过三个核心模块——几何感知 RK2 预测、低秩度量校正以及自适应稳定机制，在不重新训练模型的前提下，利用模型内部激活的低秩主方向来约束采样轨迹。实验证明，该方法在图像和视频生成任务中均能实现 4-5 倍的加速，并保持极高的生成质量。
文章金句
"扩散采样不是在平直空间里走直线，而是在模型学到的弯曲特征流形上前进。
"高倍采样加速失败的原因，往往不是数值阶数不够，而是采样轨迹偏离了模型内部学到的弯曲特征流形。
"扩散模型加速不只是减少采样步数，而是要让每一次大步更新都沿着模型学到的几何结构前进。