ARTICLE · 人工智能
Kimi K3:智能的新前沿
一语总结本文宣布推出 Kimi K3,一个 2.8 万亿参数的开源模型,基于 KDA 混合线性注意力和注意力残差技术构建,在编程、知识工作等场景展现出前沿能力,但仍落后于最强的闭源模型。
文章正式发布月之暗面最新模型 Kimi K3,这是一个 2.8 万亿参数、基于 Kimi Delta Attention(KDA)和 Attention Residuals 技术构建的原生视觉支持模型,拥有 100 万 token 上下文窗口,并承诺完全开源。文章展示了 K3 在多种编程与知识工作中的能力,包括 GPU 内核优化、从零构建编译器、创作 3D 交互作品、芯片设计、科研文献复现等,并通过内部评测和用户案例证明了其 Agent 任务水平。同时文章也指出了 K3 的局限性:对历史思考内容敏感、过于主动,以及整体表现仍落后于 Claude Fable 5 和 GPT-5.6 Sol。
- Kimi K3 是全球首个开源的三万亿级别参数模型。
该模型基于 KDA 混合线性注意力和注意力残差架构,MoE 采用 896 专家激活 16 的稀疏配置,扩展效率较前代提升约 2.5 倍。
- K3 在长程编程和 Agent 任务中表现突出。
在自动内核优化、编译器开发、芯片设计、科研复现等场景中展现了持续自主完成复杂工程和科学任务的能力。
- K3 在知识工作中能端到端生成高质量可交付成果。
它可独立完成行业研究、数据可视化、视频剪辑等任务,产出接近人类专业人士水平的报告和内容。
- 文章公开承认模型仍落后于最强闭源模型。
K3 整体表现不及 Claude Fable 5 和 GPT-5.6 Sol,但已稳定超过其他所有模型,并详细列举了局限性和适用场景。
Kimi K3:智能的新前沿
文章正式发布月之暗面最新模型 Kimi K3,这是一个 2.8 万亿参数、基于 Kimi Delta Attention(KDA)和 Attention Residuals 技术构建的原生视觉支持模型,拥有 100 万 token 上下文窗口,并承诺完全开源。文章展示了 K3 在多种编程与知识工作中的能力,包括 GPU 内核优化、从零构建编译器、创作 3D 交互作品、芯片设计、科研文献复现等,并通过内部评测和用户案例证明了其 Agent 任务水平。同时文章也指出了 K3 的局限性:对历史思考内容敏感、过于主动,以及整体表现仍落后于 Claude Fable 5 和 GPT-5.6 Sol。
Kimi K3 以 2.8 万亿参数、1M 上下文和原生视觉能力推进开放模型边界,同时坦诚展示与顶级闭源模型的差距。KDA 混合线性注意力、Attention Residuals 与稀疏 MoE 让它在规模扩张之外具备清晰的架构看点。文章还展示编译器、芯片设计、科研复现和数据可视化等长程任务,并列出对历史思考敏感、过度主动等局限。它既是一份发布稿,也是一份判断开放模型当前能力边界的坐标。适合关注模型能力、开放生态与 Agent 工程的读者。
文章金句
"犯其至难而图其至远者,发之以勇,守之以专,达之以强。
"它是全球首个开源的 3 万亿级别模型。
"Kimi K3 的发布只是开始,我们会继续挖掘 K3 模型的潜力,持续提升它在真实任务中的性能表现。