ARTICLE · 人工智能

Kimi K3:智能的新前沿

作者:月之暗面 Kimi 来源:月之暗面 Kimi 2026-07-17 01:02 17 分钟 980 阅读 4225 字
大语言模型模型发布MoEAI Agent开源模型
一语总结

本文宣布推出 Kimi K3,一个 2.8 万亿参数的开源模型,基于 KDA 混合线性注意力和注意力残差技术构建,在编程、知识工作等场景展现出前沿能力,但仍落后于最强的闭源模型。

AI 总结

文章正式发布月之暗面最新模型 Kimi K3,这是一个 2.8 万亿参数、基于 Kimi Delta Attention(KDA)和 Attention Residuals 技术构建的原生视觉支持模型,拥有 100 万 token 上下文窗口,并承诺完全开源。文章展示了 K3 在多种编程与知识工作中的能力,包括 GPU 内核优化、从零构建编译器、创作 3D 交互作品、芯片设计、科研文献复现等,并通过内部评测和用户案例证明了其 Agent 任务水平。同时文章也指出了 K3 的局限性:对历史思考内容敏感、过于主动,以及整体表现仍落后于 Claude Fable 5 和 GPT-5.6 Sol。

核心要点
  1. Kimi K3 是全球首个开源的三万亿级别参数模型。

    该模型基于 KDA 混合线性注意力和注意力残差架构,MoE 采用 896 专家激活 16 的稀疏配置,扩展效率较前代提升约 2.5 倍。

  2. K3 在长程编程和 Agent 任务中表现突出。

    在自动内核优化、编译器开发、芯片设计、科研复现等场景中展现了持续自主完成复杂工程和科学任务的能力。

  3. K3 在知识工作中能端到端生成高质量可交付成果。

    它可独立完成行业研究、数据可视化、视频剪辑等任务,产出接近人类专业人士水平的报告和内容。

  4. 文章公开承认模型仍落后于最强闭源模型。

    K3 整体表现不及 Claude Fable 5 和 GPT-5.6 Sol,但已稳定超过其他所有模型,并详细列举了局限性和适用场景。

Kimi K3:智能的新前沿

文章正式发布月之暗面最新模型 Kimi K3,这是一个 2.8 万亿参数、基于 Kimi Delta Attention(KDA)和 Attention Residuals 技术构建的原生视觉支持模型,拥有 100 万 token 上下文窗口,并承诺完全开源。文章展示了 K3 在多种编程与知识工作中的能力,包括 GPU 内核优化、从零构建编译器、创作 3D 交互作品、芯片设计、科研文献复现等,并通过内部评测和用户案例证明了其 Agent 任务水平。同时文章也指出了 K3 的局限性:对历史思考内容敏感、过于主动,以及整体表现仍落后于 Claude Fable 5 和 GPT-5.6 Sol。

Kimi K3 以 2.8 万亿参数、1M 上下文和原生视觉能力推进开放模型边界,同时坦诚展示与顶级闭源模型的差距。KDA 混合线性注意力、Attention Residuals 与稀疏 MoE 让它在规模扩张之外具备清晰的架构看点。文章还展示编译器、芯片设计、科研复现和数据可视化等长程任务,并列出对历史思考敏感、过度主动等局限。它既是一份发布稿,也是一份判断开放模型当前能力边界的坐标。适合关注模型能力、开放生态与 Agent 工程的读者。

文章金句

"

犯其至难而图其至远者,发之以勇,守之以专,达之以强。

"

它是全球首个开源的 3 万亿级别模型。

"

Kimi K3 的发布只是开始,我们会继续挖掘 K3 模型的潜力,持续提升它在真实任务中的性能表现。