ARTICLE · 人工智能
QwenGyre:开启长程智能体强化学习
一语总结阿里推出 QwenGyre 框架,通过面向超长程任务的在线强化学习,利用弹性调度和轨迹处理提升模型在复杂工程任务中的能力与效率。
针对智能体在超长程(xLong-horizon)任务中面临的长持续交互、百万级 token 处理等挑战,本文介绍了 QwenGyre 框架。该框架通过将智能体执行、GPU 角色和训练样本分开管理,实现了弹性调度以减少 GPU 空转,并通过轨迹处理(如 TITO 策略)降低了分叉执行带来的重复计算。实验显示,在 Qwen3.8-2.4T 模型上,该方法使 NL2RepoBench 通过率显著提升,并实现了 1.78 倍的端到端加速,节省训练时间。
- 定义超长程任务为 xLong-horizon
这类任务单次执行持续数小时,涉及数百轮交互依赖,累计处理百万级 token。
- 弹性调度减少算力浪费
将 GPU 分为若干计算单元(cell),在任务未结束时将空闲 GPU 动态投入训练,避免 Colocate 模式下的长尾等待。
- 轨迹处理控制训练成本
通过 TITO(Token-in Token-out)策略和轨迹筛选,保留有效训练信号并减少因分叉导致的共享前缀重复计算。
- 性能与效率突破
在 2.4T 模型上,NL2RepoBench 通过率从 52.5% 升至 58.5%,且在相同预算下比传统方法快 1.78 倍。
QwenGyre:开启长程智能体强化学习
针对智能体在超长程(xLong-horizon)任务中面临的长持续交互、百万级 token 处理等挑战,本文介绍了 QwenGyre 框架。该框架通过将智能体执行、GPU 角色和训练样本分开管理,实现了弹性调度以减少 GPU 空转,并通过轨迹处理(如 TITO 策略)降低了分叉执行带来的重复计算。实验显示,在 Qwen3.8-2.4T 模型上,该方法使 NL2RepoBench 通过率显著提升,并实现了 1.78 倍的端到端加速,节省训练时间。
千问团队一手拆解超长程智能体 RL 框架 QwenGyre:GPU 在采样与训练间弹性切换、任务不中断,轨迹树与部分计分压住分叉重复计算。Qwen3.8-2.4T 训练 48 步,NL2RepoBench 从 52.5% 升至 58.5%,省时约 44%。适合 RL 与智能体工程师。
文章金句
"我们希望通过强化学习,让模型从完整的任务中进一步提升能力。
"QwenGyre 将智能体执行、GPU 角色和训练样本分开管理。
"让持续数小时的任务成为有效的训练来源。