ARTICLE · 人工智能

QwenGyre:开启长程智能体强化学习

作者:千问大模型 来源:千问大模型 2026-10-12 18:45 10 分钟 69 阅读 2310 字
AI 与智能应用强化学习长程智能体模型训练与推理AI基础设施
一语总结

阿里推出 QwenGyre 框架,通过面向超长程任务的在线强化学习,利用弹性调度和轨迹处理提升模型在复杂工程任务中的能力与效率。

AI 总结

针对智能体在超长程(xLong-horizon)任务中面临的长持续交互、百万级 token 处理等挑战,本文介绍了 QwenGyre 框架。该框架通过将智能体执行、GPU 角色和训练样本分开管理,实现了弹性调度以减少 GPU 空转,并通过轨迹处理(如 TITO 策略)降低了分叉执行带来的重复计算。实验显示,在 Qwen3.8-2.4T 模型上,该方法使 NL2RepoBench 通过率显著提升,并实现了 1.78 倍的端到端加速,节省训练时间。

核心要点
  1. 定义超长程任务为 xLong-horizon

    这类任务单次执行持续数小时,涉及数百轮交互依赖,累计处理百万级 token。

  2. 弹性调度减少算力浪费

    将 GPU 分为若干计算单元(cell),在任务未结束时将空闲 GPU 动态投入训练,避免 Colocate 模式下的长尾等待。

  3. 轨迹处理控制训练成本

    通过 TITO(Token-in Token-out)策略和轨迹筛选,保留有效训练信号并减少因分叉导致的共享前缀重复计算。

  4. 性能与效率突破

    在 2.4T 模型上,NL2RepoBench 通过率从 52.5% 升至 58.5%,且在相同预算下比传统方法快 1.78 倍。

QwenGyre:开启长程智能体强化学习

针对智能体在超长程(xLong-horizon)任务中面临的长持续交互、百万级 token 处理等挑战,本文介绍了 QwenGyre 框架。该框架通过将智能体执行、GPU 角色和训练样本分开管理,实现了弹性调度以减少 GPU 空转,并通过轨迹处理(如 TITO 策略)降低了分叉执行带来的重复计算。实验显示,在 Qwen3.8-2.4T 模型上,该方法使 NL2RepoBench 通过率显著提升,并实现了 1.78 倍的端到端加速,节省训练时间。

千问团队一手拆解超长程智能体 RL 框架 QwenGyre:GPU 在采样与训练间弹性切换、任务不中断,轨迹树与部分计分压住分叉重复计算。Qwen3.8-2.4T 训练 48 步,NL2RepoBench 从 52.5% 升至 58.5%,省时约 44%。适合 RL 与智能体工程师。

文章金句

"

我们希望通过强化学习,让模型从完整的任务中进一步提升能力。

"

QwenGyre 将智能体执行、GPU 角色和训练样本分开管理。

"

让持续数小时的任务成为有效的训练来源。