一篇读懂优化器：从 SGD、AdamW 到 Muon

训练大模型时，人们盯着学习率、数据配比、显存占用，唯独优化器常年躺在配置文件的默认值里——因为它十年来只有一个正确答案：AdamW。变局发生在 2025 年：月之暗面的 Moonlight 论文证明 Muon 只需约一半训练算力就能追平 AdamW，随后 1 万亿总参数的 Kimi K2 用 Muon 系优化器完成了当时最大规模的验证。优化器这个「已解决的问题」重新变成了显学。本文把这条三十年演进线讲清楚：每一代优化器到底在解决什么问题，Muon 的新意在哪里，以及换优化器不是换个名字那么简单。

一、优化器在做什么：下山这件事的几何学

训练的本质是沿损失面下山。最朴素的方法是随机梯度下降（SGD）：每一步沿当前 batch 的梯度方向挪一小步。它的问题也几何得很——峡谷状的损失面上，最陡的方向未必是通往谷底最快的方向：陡峭的横向上反复震荡，平缓的纵向上又挪得太慢。动量（momentum）补上了这一课：把历史梯度累积成惯性，震荡方向相互抵消、一致方向持续加速。这是第一层改进。

第二层改进来自参数的异质性：嵌入层、注意力矩阵、前馈层各自的梯度尺度天差地别，一个全局学习率照顾不过来。Adam 的答案是自适应——为每个参数维护梯度一阶矩（均值）与二阶矩（方差）的滑动估计，用梯度除以自身的标准差，让每个参数获得尺度归一的更新；训练初期的矩估计偏差再由偏差校正修正。AdamW 再修掉一个历史包袱：把权重衰减从梯度更新里解耦出来，不再与自适应缩放纠缠——正则化的力度从此由参数本身表达，而不是被梯度尺度调制。两者叠加，AdamW 成为事实标准——直到 Muon 出现，问题才被重新打开。

二、Muon：对更新做正交化

Muon（由 Keller Jordan 等人提出）的出发点是一个几何观察：AdamW 的自适应更新虽然尺度对了，方向却仍然「偏」——矩阵参数的更新能量容易集中在少数几个主方向上，权重矩阵的其他方向学得慢。Muon 的做法是对矩阵参数的动量更新做正交化：用 Newton-Schulz 迭代近似计算 $(MM^T)^{-1/2}M$，也就是把更新矩阵 $M$ 分解成 $UV^T$——每个奇异方向的幅度都被拉平。

直觉上，这相当于逼着每一步更新「雨露均沾」：不是把力气全花在损失面最陡的少数方向上，而是让所有可学习的方向均匀推进。为什么这对大模型格外有效？大模型的权重矩阵动辄数千维见方，参数量大并不代表每个方向都得到了充分学习——恰恰相反，更新能量集中带来的「偏科」是常态。Muon 训出的权重矩阵 SVD 熵更高（Moonlight 论文的谱分析显示超过 90% 的矩阵如此），说明更新方向更多样；MoE 模型里最关键的路由权重差距最明显，因此 MoE 架构获益更大——而 2025 年前后的旗舰模型恰恰清一色是 MoE。

效果用算力说话：Moonlight 的缩放律实验测出「Muon 只需约 52% 的训练 FLOPs 即可达到 AdamW 的性能」——约两倍的算力效率。论文拟合的损失曲线也值得一看：Muon 与 AdamW 的曲线形状几乎平行，只是 Muon 整体低了约 4% 的损失值，两条曲线在双对数坐标上斜率接近（-0.052 对 -0.054）——这意味着 Muon 的优势是「整体平移」而不是「斜率改变」，在小算力与大算力下都成立，这正是它能从 nanoGPT 量级的实验一路扩到万亿参数的数学前提。同等算力下，两倍效率直接改写了训练成本的账本。

两倍的效率放到模型质量上看更直观。Moonshot 用 Muon 训练了 Moonlight——3B 激活 / 16B 总参的 MoE 模型（DeepSeek-V3-Small 同款架构），跑了 5.7T tokens。在 1.2T checkpoint 与同架构 AdamW 版（Moonlight-A）直接对照：HumanEval 37.2 对 29.3，GSM8K 45.0 对 43.8——代码能力拉开了肉眼可见的差距。5.7T 训练完成后，Moonlight 在 MMLU 70.0、BBH 65.2、HumanEval 48.1、GSM8K 77.4、MATH 45.3，全面优于同 token 量的 DSV2-Lite，并接近用了更多算力训练的 Llama3.1-8B 与 Gemma2-9B。同数据、同架构，只换优化器就上了一个身位——这是「缩放律测出 52%」在真实模型上的注脚。

三、从论文到万亿参数：工程化的两道坎

「理论快两倍」与「敢用来跑万亿参数」之间隔着两道工程坎，Moonshot 团队各给出了一件武器。在讲这两道坎之前，先明确 Muon 的适用面：它只对二维矩阵参数做正交化更新——正交化的意义建立在「更新有多个奇异方向可以均匀摊开」之上；嵌入层与最终的输出头这类向量或特殊形状参数，依然交给 AdamW。Moonlight 与 K2 的训练配置都是这个混合方案，这也是后文所有工程细节的前提。

第一道：分布式与资源开销。正交化本身有计算成本，大规模训练还要求优化器状态切分到多机。Moonlight 的 Distributed Muon 基于 ZeRO-1 与 Megatron-LM 实现，通信开销为 AdamW 的 1 到 1.25 倍，端到端延迟影响约 1%–3%——换来的资源红利同样明确：由于只需维护单个动量缓冲（AdamW 要一阶、二阶两个矩），优化器的额外显存约为 AdamW 的一半。另一处细节体现工程深度：不同形状的矩阵，正交化后更新的 RMS 各不相同，必须统一缩放并匹配 AdamW 的 0.2–0.4 更新 RMS 区间（论文取 0.2），否则换优化器等于把学习率、权重衰减全部重调一遍——缩放对了才能「无需调参直接用」。此外还要加 AdamW 式权重衰减：正交化本身不约束权重的绝对幅度，不加衰减的话权重与输出 RMS 会随训练无限增长，最终超出 bf16 的精度范围。

第二道：注意力 logit 爆炸。训练超大规模模型时，Muon 会让注意力层的 logit（QK 内积）异常增大——Moonlight 训练中就观察到最大注意力 logit 超过 100。Moonlight 论文里的过渡手段是用 RMSNorm gamma 权重衰减等常规手段压制，而为 Kimi K2 服务的变体 MuonClip 则引入了专门的 QK-Clip 机制直接裁剪 logit 增长，让万亿参数（1T 总参 / 32B 激活的 MoE，Kimi K2 技术报告数据）级预训练全程稳定。这一步的分量可以换个说法：在 AdamW 时代，注意力 logit 爆炸同样是悬在大规模训练头上的剑，只是 AdamW 下爆发得更早、更频繁——Muon 把问题放大了，也就把解法逼了出来。QK-Clip 是 Muon 系从「实验室加速器」走向「旗舰模型主力」的关键一环。

四、换血的边界：Muon 不是全局替代

把 Muon 说成 AdamW 的全面替代是不准确的，工程共识是分工制。

• 矩阵参数（隐藏层）归 Muon，嵌入层与输出头仍归 AdamW。Muon 的正交化只对二维矩阵参数有意义，embedding 与最终投影层继续用 AdamW——Moonlight 与 K2 的训练配置都是这个混合方案。
• SFT 阶段的结论很微妙。Moonlight 实验显示：Muon 预训练 + Muon 微调组合最佳；但对 AdamW 预训练出的模型（如 Qwen2.5-7B）改用 Muon 做微调，效果与 AdamW-SFT 基本持平甚至略差。优化器的收益主要体现在预训练——这决定了「存量模型换优化器微调」并不是一个值得追逐的方向。
• 小规模微调不必跟风。社区在中小规模上的复现实验值得细看：在 GH200 上用 TRL 框架对 Qwen3-4B 做全参数微调（约 1 万条 instruct 数据），纯 Muon 收敛起步快但梯度范数易出现尖峰，MuonClip 的小规模收益不明显，混合方案（Muon+AdamW 各管一部分）最终胜出——「Hybrid is King」。该实验页面评论区还有读者指出 rms 因子计算的一个实现歧义（0.2 应在平方根外），提醒复现细节必须对齐官方实现。
• 通信与实现不是免费的。Distributed Muon 的通信开销为 AdamW 的 1 到 1.25 倍，多机实现需要 ZeRO/Megatron 级的工程基础。

回到那个「为什么是现在」的问题：Muon 的提出本身在 2024 年，最初只是小模型上的实验记录；让它晋级旗舰配置的，是 Moonlight 论文补齐的三块拼图——缩放律证明优势随规模保持、分布式实现证明通信开销可忽略、QK-Clip 证明稳定性问题有解。三者凑齐，加上 Kimi K2 用真金白银的万亿参数训练做了背书，才有了 2025 年的集体换装。一个优化器从 idea 到标配要走完的工程闭环，这篇论文恰好是教科书级的案例。

对读者的实操建议也顺理成章：你在微调开源模型时不必折腾优化器（结论是持平甚至略差）；但从零预训练一个模型时，Muon 值得进入候选清单——两倍的算力效率在今天的规模下意味着实打实的成本差距，而它的开源实现与工程笔记已经足够成熟。

结语

优化器的三十年是三次「换几何直觉」的历史：SGD 信最陡的方向，Adam 信每个参数自己的尺度，Muon 信每一步更新该在所有方向上均匀发力。Kimi K2 的万亿参数训练给这轮换血做了背书，但真正的启示不是「Muon 取代 AdamW」，而是：优化器重新成为一个有活跃竞争的领域——预训练两倍算力效率的诱惑面前，下一个默认答案还没有定。也可以确定的是，下一个候选同样会从几何直觉出发：优化器的历史证明，赢的从来不是调参最勤的人，而是把问题看穿一层的人。

参考资料

• Muon is Scalable for LLM Training（arXiv:2502.16982，Moonlight 技术报告）——52% FLOPs、Distributed Muon 与谱分析
• Kimi K2: Open Agentic Intelligence（arXiv:2507.20534）——1T 总参 / 32B 激活 MoE 与 MuonClip 训练
• Muon vs MuonClip vs AdamW for Fine-Tuning（Hugging Face Blog）——QK-Clip 机制与小规模微调实测
• Muon: An optimizer for hidden layers in neural networks（GitHub）——Muon 的原始实现