VIDEO · 人工智能
持续学习的日常版本：把模型迭代做成软件开发流程
一语总结Will Brown 认为，持续学习会成为日常模型维护：以生产评估为基础，按具体任务选择训练方法。
Prime Intellect 应用研究负责人 Will Brown 把持续学习比作模型的软件开发流程。终端中的试验帮助团队发现有用的智能体工作流，但生产系统还需要版本管理、回归检测、成本与延迟目标，以及扎根于人工判断的评估。他把离线上下文蒸馏、同系列教师模型的 on-policy 蒸馏和 RL 视为互补手段，提醒知识注入仍然困难，没有万能配方。开发环境应尽量贴近生产，便于采集轨迹、评估变化，并在合适的环节训练模型。是否自行训练或采购模型，取决于工作负载、成本、控制力和性能需求。他预计后训练会逐渐自动化、常规化，同时承认可靠方法仍在探索中。
- 生产评估应承接人工判断
探索阶段的直觉检查帮助发现有效测试，但无法持续检查每一位用户的生产交互。
- 训练方法各有适用问题
Brown 倾向结合上下文蒸馏与同系列教师蒸馏，并把 RL 用于优化可衡量的行为。
- 开发环境应贴近生产
可评估且足够逼真的环境，能支持轨迹采集和迭代，同时避免影响线上系统。
- 专用模型同样需要权衡自建与采购
成熟工作负载可能适合更窄的模型，以部分通用能力换取成本、延迟和控制力优势。
持续学习的日常版本：把模型迭代做成软件开发流程
Prime Intellect 应用研究负责人 Will Brown 把持续学习比作模型的软件开发流程。终端中的试验帮助团队发现有用的智能体工作流，但生产系统还需要版本管理、回归检测、成本与延迟目标，以及扎根于人工判断的评估。他把离线上下文蒸馏、同系列教师模型的 on-policy 蒸馏和 RL 视为互补手段，提醒知识注入仍然困难，没有万能配方。开发环境应尽量贴近生产，便于采集轨迹、评估变化，并在合适的环节训练模型。是否自行训练或采购模型，取决于工作负载、成本、控制力和性能需求。他预计后训练会逐渐自动化、常规化，同时承认可靠方法仍在探索中。
文章金句
"目标应该是让评估承接人工的直觉检查。
"越倾向在线训练，就越需要贴近 on-policy。
"它仍然遵循物理规律，向模型注入知识很难，没有万能解法。