ARTICLE · 人工智能
使用 MCP 进行代码执行:构建更高效的 AI 智能体
一语总结文章展示了如何通过将 MCP 服务器视为文件系统 API 的代码执行方式,使 AI 智能体能够按需加载工具,将 token 用量降低高达 98.7%,并获得隐私、状态管理和控制流方面的好处。
Anthropic 工程师解释说,虽然 Model Context Protocol(MCP)标准化了智能体‑工具连接,但加载数千个工具定义并通过 LLM 上下文窗口传递大型中间结果会导致 token 成本和延迟激增。通过将 MCP 服务器呈现为代码 API——即将每个工具暴露为虚拟文件系统中的一个文件——智能体可以发现并仅加载所需的工具,在返回结果给模型之前在执行环境中处理数据,并使用熟悉的编程构造(循环、条件判断、错误处理)来实现更高效的工作流。该方法还通过将中间数据保留在模型上下文之外来提升隐私,并通过基于文件的技能实现状态持久性。TypeScript 代码示例展示了这一模式,而具体的 Google‑Drive‑到‑Salesforce 案例将 token 用量从约 150k 降至约 2k(节省 98.7%)。文章指出了诸如需要安全沙箱等权衡,但得出结论:工程收益超过了额外开销。
- 预先加载所有 MCP 工具定义会消耗过多的上下文 token,导致智能体变慢且成本上升。
当智能体连接到数百或数千个工具时,完整的工具模式集合在处理任何用户请求之前可能会占据数十万个 token,从而导致延迟和费用增加。
- 将 MCP 服务器视为可通过代码访问的文件系统,使智能体能够按需加载工具并在数据到达模型之前进行过滤。
通过将每个工具暴露为一个文件(例如 ./servers/google-drive/getDocument.ts)并使用 callMCPTool 辅助函数,智能体仅导入所需的定义,并能够在执行环境中处理大型结果(如电子表格),在示例中将 token 用量从约 150k 降至约 2k。
- 使用 MCP 进行代码执行可增加隐私、实现状态持久性,并提供更丰富的控制流功能。
中间结果默认停留在执行环境中,从而防止敏感数据进入模型上下文;智能体可以写入中间文件以实现可恢复的工作,并将可重用代码保存为技能,而循环和条件判断在执行环境中运行,无需重复调用 LLM。
使用 MCP 进行代码执行:构建更高效的 AI 智能体
Anthropic 工程师解释说,虽然 Model Context Protocol(MCP)标准化了智能体‑工具连接,但加载数千个工具定义并通过 LLM 上下文窗口传递大型中间结果会导致 token 成本和延迟激增。通过将 MCP 服务器呈现为代码 API——即将每个工具暴露为虚拟文件系统中的一个文件——智能体可以发现并仅加载所需的工具,在返回结果给模型之前在执行环境中处理数据,并使用熟悉的编程构造(循环、条件判断、错误处理)来实现更高效的工作流。该方法还通过将中间数据保留在模型上下文之外来提升隐私,并通过基于文件的技能实现状态持久性。TypeScript 代码示例展示了这一模式,而具体的 Google‑Drive‑到‑Salesforce 案例将 token 用量从约 150k 降至约 2k(节省 98.7%)。文章指出了诸如需要安全沙箱等权衡,但得出结论:工程收益超过了额外开销。
文章金句
"这使得 token 用量从 150,000 降至 2,000,节省时间和成本达 98.7%。
"随着代码执行环境在智能体中变得越来越普遍,一种解决方案是将 MCP 服务器呈现为代码 API,而非直接的工具调用。
"智能体只看到五行数据,而非原来的 10,000 行。类似的模式也适用于聚合、多数据源的连接或提取特定字段——全部都不会导致上下文窗口膨胀。