ARTICLE · 人工智能
年度 AI 论文！全球三大顶尖模型的防蒸馏机制全面告破：小模型“套出”大模型隐藏思维链，Kimi-K3 重现概率异常
一语总结最新研究揭示了 Anthropic、OpenAI 和 Google 等顶尖 AI 模型 API 存在严重的密码学旁路漏洞，攻击者可利用轻量级模型作为“解码器”窃取闭源模型的隐藏思维链（CoT），并引发了大规模敏感数据泄露风险。
本文深度解读了 arXiv 论文《Stealing Reasoning Traces from Proprietary LLM APIs》。研究发现，闭源模型厂商为保护推理逻辑而设计的“隐藏思维链（Hidden CoT）”加密机制存在严重逻辑漏洞。攻击者无需破解加密算法，仅需将捕获的加密数据包注入同生态下的轻量级模型（如 Claude Haiku），并辅以越狱提示词，即可将加密的思维链还原为明文。该漏洞不仅证明了“防蒸馏”体系在产业竞争中已形同虚设，还导致了开发者调试日志中包含的 API 密钥、个人身份信息等敏感数据的大规模泄露。文章指出，这种基于全局通用密钥的无状态架构设计，是导致安全防线崩溃的根本原因。
- 加密思维链存在跨模型可移植性漏洞。
厂商为节省服务器存储成本，常采用全局通用密钥，导致加密推理包可在同一生态的不同模型间重放，轻量级模型可被用作“解码器”还原顶级模型的思维过程。
- “防蒸馏”防线在实际产业竞争中已失效。
通过定量分析模型间的“概率鸿沟”与风格漂移，研究证实部分开源模型在训练中深度吸收了闭源模型的推理数据，防蒸馏机制难以阻挡高价值推理数据的流失。
- API 漏洞引发严重的企业数据隐私泄露。
开发者习惯将包含加密推理包的调试日志公开，攻击者利用该漏洞可从日志中提取 API 密钥、明文密码及个人隐私信息，造成严重的生产环境安全风险。
年度 AI 论文！全球三大顶尖模型的防蒸馏机制全面告破：小模型“套出”大模型隐藏思维链，Kimi-K3 重现概率异常
本文深度解读了 arXiv 论文《Stealing Reasoning Traces from Proprietary LLM APIs》。研究发现，闭源模型厂商为保护推理逻辑而设计的“隐藏思维链（Hidden CoT）”加密机制存在严重逻辑漏洞。攻击者无需破解加密算法，仅需将捕获的加密数据包注入同生态下的轻量级模型（如 Claude Haiku），并辅以越狱提示词，即可将加密的思维链还原为明文。该漏洞不仅证明了“防蒸馏”体系在产业竞争中已形同虚设，还导致了开发者调试日志中包含的 API 密钥、个人身份信息等敏感数据的大规模泄露。文章指出，这种基于全局通用密钥的无状态架构设计，是导致安全防线崩溃的根本原因。
文章金句
"当廉价的轻量级模型即可作为提取大模型核心逻辑的‘特洛伊木马’时，传统的‘防蒸馏’策略实质上已形同虚设。
"这很可能成为今年最有影响力的科学论文之一。
"实验表明，这些原本被认为与特定会话深度绑定的加密数据，不仅能够脱离原始上下文进行重放，更能在同一厂商的不同参数量级模型之间无缝转移。