ARTICLE · 软件编程
MTFM：美团统一推荐基座大模型在外卖多业务场景的落地实践
一语总结美团推出统一推荐基座大模型 MTFM，通过异构 Tokenizer、混合注意力架构及 User-Level 训练范式，首次实现外卖多业务场景的统一精排，显著提升订单量并降低推理成本。
本文详细介绍了美团统一推荐基座大模型 MTFM 的设计与落地实践。针对推荐系统在多场景建模中的规模可扩展性、场景可延展性与架构高效性挑战，MTFM 采用了类 Transformer 骨干网络，通过异构 Tokenizer 实现多场景特征免对齐，引入混合注意力机制（Full Attention 与 Target Attention 堆叠）降低计算复杂度，并提出 Target Token Scale-Up 增强模型能力。在工程实现上，MTFM 升级为 User-Level 样本训练范式，并针对深层网络训练稳定性、多业务联合训练及 GPU 算子（如 FA 镜像、GLN Kernel）进行了深度优化。实验结果显示，MTFM 在外卖多个核心业务中取得显著收益，订单量提升最高超 6%，推理成本降低 24%，且验证了在层数、维度和序列长度上的 Scaling Law。
- 构建统一推荐基座模型以突破单场景建模的孤岛效应
通过建设 MTFM，美团旨在打通跨场景的异构性，利用多场景数据提升 Scaling Law 的上限，解决外卖首页、拼好饭等多个业务长期独立建模导致的算力和数据无法复用的问题。
- 通过异构 Tokenizer 和动态掩码实现多场景特征免对齐
将输入抽象为 H-Token（历史）、R-Token（实时）和 T-Token（目标），不同业务使用独立 Tokenizer 编码后统一堆叠，配合动态 Mask 机制防止信息泄露，使模型无需人工对齐特征模板即可端到端学习。
- 采用混合注意力架构与 Target Scale-Up 兼顾性能与能力
通过 Target:Full=3:1 的混合结构降低长序列计算复杂度，并对 Target Token 进行拆分（Scale-Up）和 Mixing，解决 Target 信息过度压缩问题，在提升模型能力的同时保证推理效率。
- 升级为 User-Level 训练范式以提升算力经济性
将样本组织粒度从曝光（PV）升级为统一用户（UV），使同一用户在多业务中的曝光共享长序列 Attention 计算，大幅降低训练成本并缓解小流量业务的数据稀疏问题。
- 通过深度工程优化解决深层网络训练不稳与训推瓶颈
引入深度感知初始化和 Muon 优化器提升训练稳定性；开发定制化 Triton Kernel（如 GLN 融合、FA 镜像）和推理图精简，将单样本计算量数百倍增长带来的延迟压力降至可控范围。
MTFM：美团统一推荐基座大模型在外卖多业务场景的落地实践
本文详细介绍了美团统一推荐基座大模型 MTFM 的设计与落地实践。针对推荐系统在多场景建模中的规模可扩展性、场景可延展性与架构高效性挑战，MTFM 采用了类 Transformer 骨干网络，通过异构 Tokenizer 实现多场景特征免对齐，引入混合注意力机制（Full Attention 与 Target Attention 堆叠）降低计算复杂度，并提出 Target Token Scale-Up 增强模型能力。在工程实现上，MTFM 升级为 User-Level 样本训练范式，并针对深层网络训练稳定性、多业务联合训练及 GPU 算子（如 FA 镜像、GLN Kernel）进行了深度优化。实验结果显示，MTFM 在外卖多个核心业务中取得显著收益，订单量提升最高超 6%，推理成本降低 24%，且验证了在层数、维度和序列长度上的 Scaling Law。
美团把外卖首页、拼好饭等长期独立建模的场景收进一个统一推荐基座：异构 Tokenizer 免去跨业务特征对齐，Target 与 Full 按 3 比 1 的混合注意力压住长序列算力，样本粒度从曝光升级到用户级，让同一用户在多业务的曝光共享长序列计算。工程侧给出深度感知初始化、Muon 优化器与定制 Triton Kernel 的具体做法，线上订单量最高提升超过 6%，推理成本降低 24%。
适合谁：做推荐与广告精排、要把多场景模型统一起来的算法与架构师
文章金句
"MTFM 首次实现外卖多个主要业务的统一精排模型并在各核心场景完成全量
"推荐基座大模型主要面临三个核心挑战：规模可扩展性（Scalability）、场景可延展性（Extensibility）和架构高效性（Efficiency）。
"在无需显式对齐跨业务特征体系的情况下，实现多场景统一建模。
"Target Attention 能够以更低成本完成有效的信息提取。
"统一训练、多业务部署。