ARTICLE · 人工智能
我用 DeepSeek 网页版拿下 KDD Cup 冠军！
一语总结Kaggle 全球第一选手复盘其使用 DeepSeek 网页版独立承担代码实现，最终夺得 KDD Cup 2026 工业赛道冠军的实战经验与 QueryFormer 方案。
本文由 Kaggle 全球排名第一的作者撰写，详细记录了在 KDD Cup 2026 Tencent UniRec Challenge 中夺冠的完整过程。作者验证了在人负责研究方向和结果判断的前提下，国产大模型 DeepSeek 网页版能够独立完成复杂工业级建模的代码迭代。文章重点介绍了冠军方案 QueryFormer 的五步优化逻辑（非序列特征分组、QuerySelfAttn、QueryCrossAttn、QuerySeqCrossAttn、SeqQueryCrossAttn 及多列 Embedding Matrix），并分享了与 LLM 协作的 Vibe Coding 工作流、MuonPlus 优化器的应用以及对未来自动建模 Agent 的思考。
- QueryFormer 方案的核心在于优化 Query 的质量而非单纯堆叠序列长度。
通过五步优化（分组特征、多级 Attention 交互、动态 Query 生成及多列 Embedding），使模型能更精准地从多域行为序列中检索相关信息。
- 验证了国产大模型在复杂工业建模代码层面的独立支撑能力。
在不调用 API、无终端权限的情况下，DeepSeek 网页版通过「完整上下文-完整代码-运行反馈」的闭环，完成了从数据管线到模型结构的全部实现。
- 提出当前最高效的 AI 协作模式是「人定方向 + Agent 执行」。
作者认为目前 Agent 仍缺乏自主实验决策能力，最强路径是人负责研究方向和结果判断，Agent 负责代码实现与局部迭代。
- 训练优化中 MuonPlus 优化器对 Dense 参数提升显著。
结合此前在 CMI 和 NFL 比赛中的成功经验，将 MuonPlus 引入 QueryFormer，配合双优化器框架提升了模型性能。
我用 DeepSeek 网页版拿下 KDD Cup 冠军！
本文由 Kaggle 全球排名第一的作者撰写，详细记录了在 KDD Cup 2026 Tencent UniRec Challenge 中夺冠的完整过程。作者验证了在人负责研究方向和结果判断的前提下，国产大模型 DeepSeek 网页版能够独立完成复杂工业级建模的代码迭代。文章重点介绍了冠军方案 QueryFormer 的五步优化逻辑（非序列特征分组、QuerySelfAttn、QueryCrossAttn、QuerySeqCrossAttn、SeqQueryCrossAttn 及多列 Embedding Matrix），并分享了与 LLM 协作的 Vibe Coding 工作流、MuonPlus 优化器的应用以及对未来自动建模 Agent 的思考。
文章金句
"是否使用最昂贵的国外旗舰模型，并不是决定最终上限的唯一因素。
"模型之间更明显的差距，通常出现在目标模糊、需要自主规划或缺少上下文的任务中。
"Agent 已经能够高效完成复杂代码，但建模不只有写代码，还需要持续阅读资料、设计实验、分析日志、识别过拟合并决定下一步方向。