# MiniMax M2 技术报告笔记

- 原标题：MiniMax M2 Technical Report Notes
- 类型：博客
- 来源：Sebastian Raschka
- 发布时间：2026-05-27
- 首次精选：2026-10-28 16:25
- 分级：值得看
- 学习层级：深入
- 主题：[moe-model-architecture](<https://oplearnx.com/md/topics/moe-model-architecture.md>)（第 15 位）、[decoding-acceleration](<https://oplearnx.com/md/topics/decoding-acceleration.md>)（第 25 位）
- 原文链接：[https://sebastianraschka.com/blog/2026/minimax-m2-technical-report.html](<https://sebastianraschka.com/blog/2026/minimax-m2-technical-report.html>)
- 本站页面：[https://oplearnx.com/resources/pk\_039352c7b251](<https://oplearnx.com/resources/pk_039352c7b251>)

## 摘要

Sebastian Raschka 对 MiniMax M2 技术报告的笔记，涉及全注意力、细粒度 MoE 路由、智能体训练数据、速度奖励与自我进化等内容。文中给出架构要点：旗舰 M2 为 62 层 decoder-only Transformer，总参数 2299 亿、每 token 激活 98 亿，每个 MoE 层有 256 个细粒度专家、每 token 路由至其中 8 个并采用 sigmoid 门控，各层使用分组查询注意力（48 个查询头、8 个键值头），配备 QK-Norm 和部分 RoPE，上下文窗口为 196,608 token，预训练数据为 29.2 万亿 token。

---
来源：LearnMap · 学径（https://oplearnx.com）