ARTICLE · 人工智能
目前架构下，自进化后的 AI 也无法替代人类的判断力｜田渊栋
一语总结本文深度对话田渊栋，探讨自进化 AI（RSI）的现状、门槛与人类不可替代的判断力，指出方向感（taste）和领域专家的深层理解是最终护城河。
文章是一篇对田渊栋的深度访谈，围绕递归自改进（RSI）展开。先澄清 RSI 与当前自动化 R&D 的区别：前者追求发现新算法、新架构，形成自我增强闭环，后者仅执行已有流程。田渊栋指出，AI 在概念突破（如群论、相对论）上仍远不及人，瓶颈在于缺乏对新式结构的即时理解，而人对问题的深层洞察远比行动空间重要。讨论验证信号时，他强调模型自评只能发现粗浅问题，高层判断仍需人类 rubic 与 insight。在职业与组织层面，他提出 AI 将放大方向感强的人的能力，而专精长尾任务的领域专家 + AI 难以替代；组织将更扁平，小团队与高效交流更重要。最后，他对 RSI 可能消灭人类价值的质问坦诚回应：这是囚徒困境，但也会解放个性，让人做真正感兴趣的事。
- 自进化 AI 的门槛是实现概念突破，而非只做模式匹配。
田渊栋以群论和相对论为例，说明真正高级的科学发现来自改变问题表达方式的抽象框架，目前 AI 还做不到这样的概念归纳与即时理解。
- 奖励信号和人的洞察力比算力更关键。
当前 RSI 最大的卡点是反馈慢的问题（如长周期训练），快速迭代依赖强反馈信号；模型自评只能覆盖浅层，高层判断依然需要人提供 rubic 和方向感。
- AI 将拉大能力差距，而非缩小——关键在于个人的强项是否被 AI 重叠。
方向感强但执行力弱的人会被 AI 极大放大；而只擅长精细执行但缺乏方向的人优势会被 Agent 生态位取代，需要转型为方向型思考者。
- 长尾任务和领域专家是纯智力工作中最难替代的。
数据稀少、情境复杂的长尾任务中，人的领域知识和迁移能力比通用模型更强，且流程性经验易被“skill 蒸馏”，但深层理解难以外化。
- 组织将更扁平，但人际交流与 insight 共享仍不可缺。
未来更多个体通过 Agent 独立产出，但组织仍需促进人与人之间的高效沟通与方向共识；经理的角色可能从带人转向带 Agent。
目前架构下，自进化后的 AI 也无法替代人类的判断力｜田渊栋
文章是一篇对田渊栋的深度访谈，围绕递归自改进（RSI）展开。先澄清 RSI 与当前自动化 R&D 的区别：前者追求发现新算法、新架构，形成自我增强闭环，后者仅执行已有流程。田渊栋指出，AI 在概念突破（如群论、相对论）上仍远不及人，瓶颈在于缺乏对新式结构的即时理解，而人对问题的深层洞察远比行动空间重要。讨论验证信号时，他强调模型自评只能发现粗浅问题，高层判断仍需人类 rubic 与 insight。在职业与组织层面，他提出 AI 将放大方向感强的人的能力，而专精长尾任务的领域专家 + AI 难以替代；组织将更扁平，小团队与高效交流更重要。最后，他对 RSI 可能消灭人类价值的质问坦诚回应：这是囚徒困境，但也会解放个性，让人做真正感兴趣的事。
一手长访谈将 RSI 与当下自动化研发区分开，结合田渊栋的研究与创业经验，具体讨论验证信号、深层理解和组织结构的变化。它既提供前沿判断，也给出人在 AI 协作中重新定位判断力与专业性的可迁移框架，适合关注智能体、研究与组织转型的读者。
文章金句
"人类最后的护城河，是那些无法被结构化外化的「深层理解」。
"简单问题容易做，难的是反馈慢的问题。
"这是必由之路，就算没有我，也会有别人做。
"概念突破能解决很多之前无法解决的问题。有了这个概念之后，你问问题的角度、对问题的理解都会耳目一新。