ARTICLE · 人工智能
一晚两场，H3 技术团队和全球开发者聊了什么？
一语总结H3 技术团队在 AMA 与直播中详细阐释了模型架构、稀疏注意力、VAE 设计、指令遵循、长视频续写、画质局限、推理优化及开源计划。
文章记录了 MiniMax H3 开源后技术团队在 Reddit AMA 和 ComfyUI Live 直播中的问答内容。重点包括：H3 不使用 MSA，采用类似 MoBA 的稀疏注意力，仅对视频 token 进行 3D sparsification；视频 VAE 采用独立第一帧和双 VAE 设计，以统一图像视频训练并控制多模态训练平衡；指令遵循与泛化能力来源于广泛多样的数据和可扩展架构；长视频续写目前采用 reference-conditioning，未来将探索结合 sparse attention 的原生长轨迹训练；画质方面 Ref2VA 与 FL2VA 后训练策略差异导致差异，正在改进纹理和远景人脸问题；推理效率正在通过 quantization、offloading 和 step distillation 进行优化，同时评估低 NFE 版本；Regenerate-2K 为专用 latent-space DiT 检查点，计划后续开源；未来将开源统一的图像模型，共享 VAE 编码器；社区已提供量化、ComfyUI 适配等工作流，官方将持续迭代提示词指南和工作流模板。整体内容技术深度丰富，兼具原创实践与前瞻规划。
- H3 采用类似 MoBA 的稀疏注意力，仅对视频 token 进行 3D sparsification。
由于相邻视觉 token 高相关性，mean pooling 已能有效判断 block 重要性，无需额外 learned indexer；图像和文本 token 仍在探索范围内。
- 双 VAE 设计旨在统一图像视频训练并控制多模态训练平衡。
独立第一帧使图像与视频首帧在数据侧等同；独立的视觉 VAE 和音频 VAE 便于在 DiT 训练中分别平衡两种模态，防止音频过早收敛导致过拟合。
- 指令遵循与泛化能力来源于广泛多样的数据和可扩展架构设计。
团队强调无法归因于单一技巧，而是通过数据构建、任务设计、模型架构和训练策略的共同作用；首帧+caption 预测末帧的简单任务已展示零-shot 图像编辑能力。
- 当前画质局限主要表现为纹理偏糊和远景小脸崩，正在持续改进。
问题不单纯由 Visual VAE 高压缩比或单一训练阶段造成，团队正在拆解主要影响因素，并计划在未来更新中修复。
- 推理效率正通过 quantization、offloading 和 step distillation 进行优化，评估低 NFE 版本。
模型约 600B 参数，BF16 需约 120GB 显存；社区已有量化和加载工作流，官方目标是在不造成明显质量损失的前提下降低推理成本。
一晚两场，H3 技术团队和全球开发者聊了什么？
文章记录了 MiniMax H3 开源后技术团队在 Reddit AMA 和 ComfyUI Live 直播中的问答内容。重点包括：H3 不使用 MSA，采用类似 MoBA 的稀疏注意力，仅对视频 token 进行 3D sparsification；视频 VAE 采用独立第一帧和双 VAE 设计，以统一图像视频训练并控制多模态训练平衡；指令遵循与泛化能力来源于广泛多样的数据和可扩展架构；长视频续写目前采用 reference-conditioning，未来将探索结合 sparse attention 的原生长轨迹训练；画质方面 Ref2VA 与 FL2VA 后训练策略差异导致差异，正在改进纹理和远景人脸问题；推理效率正在通过 quantization、offloading 和 step distillation 进行优化，同时评估低 NFE 版本；Regenerate-2K 为专用 latent-space DiT 检查点，计划后续开源；未来将开源统一的图像模型，共享 VAE 编码器；社区已提供量化、ComfyUI 适配等工作流，官方将持续迭代提示词指南和工作流模板。整体内容技术深度丰富，兼具原创实践与前瞻规划。
MiniMax H3 开源后，技术团队在 Reddit AMA 与直播中集中回应了社区最关心的工程细节：H3 不使用 MSA，采用类似 MoBA 的稀疏注意力（仅对视频 token 做 3D sparsification）；视频 VAE 用独立第一帧加双 VAE 设计兼顾续写与画质；并坦陈长视频续写、画质上限与推理优化的取舍，明确了后续开源计划。适合关注视频生成模型架构与开源生态的开发者与研究者，了解一线团队的真实设计权衡。
文章金句
"H3 不使用 MSA，稀疏注意力策略更接近 MoBA。
"独立第一帧是为了更好地统一图像和视频训练：一张独立图像与一段视频的第一帧，可以在数据侧被同等对待。
"我们会在后续发布的 H3 Technical report 中，公布更多细节。
"我们正在探索 step distillation，目标是在不产生明显质量损失的前提下降低推理成本
"我们的愿景是 Intelligence with Everyone，推动这一领域的发展是我们的核心使命之一。