托卡马克里的等离子体比太阳核心还热，任何接触都会瞬间冷却——唯一的「手」是磁场。2022 年 DeepMind 与瑞士 EPFL 在 Nature 发表的成果，让一个神经网络以每秒一万次的频率直接指挥托卡马克的 19 个控制线圈。本文讲透这条技术路线：控制为什么是聚变的隐形瓶颈、强化学习怎么学会「握」住等离子体，以及它对 ITER 时代的意义。

IT之家 10 月 12 日消息，阿里千问今日正式发布 QwenGyre，这是一款面向长程智能体任务的在线强化学习框架。 据官方介绍，当智能体承担复杂工作，一次执行往往持续数小时，模型与环境之间有数百轮相互依赖的交互，累计处理百万级 tok…

给已有 Agent 框架做 RL 后训练，通常要把业务逻辑重写成训练代码。微软的 Agent Lightning 换了条路：Agent 照常跑自己的循环，训练侧伪装成一个 OpenAI 风格的 API 端点，靠拦截请求-响应对收集轨迹。v1.0 技术报告里，Qwen3.5-9B 编码 Agent 在 SWE-bench Verified 上从 41.8% 提到 56.4%。本文拆解它的架构、算法与社区争议。

DeepSeek 发布并开源 R1 推理模型，纯强化学习激发推理能力，性能比肩 OpenAI o1，API 价格仅为后者数十分之一，引发全球市场震动。

o1 系列通过强化学习训练模型'先思考再回答'，在数学、代码与科学推理上大幅跃升，开创了推理时扩展（Test-time Compute）的新 Scaling 维度。

论文提出AgentSafeEvo，通过攻击者-防御者博弈的协同进化强化学习，提升LLM智能体在多轮工具调用中抵御恶意内容操纵的安全性。

论文提出VepAgent框架，将因果转换推理与工具增强强化学习结合用于视频事件预测，并构建了用于微调的futurebench-4K思维链数据集。

论文以强化学习视角解释在线蒸馏为何既能提升性能也可能坍塌为过长重复的生成：教师隐式奖励学生行为，当隐式奖励与质量错位时会发生奖励劫持。

RLHF 要同时养四个模型、跑采样流水线，DPO 只用「好回答与差回答的对数概率比」做二元分类——推导只走三步，训练不用采样、不用奖励模型、不用价值网络。本文拆解 DPO 的完整推导链与全部关键实验，以及 IPO、KTO、SimPO、GRPO 组成的后训练方法论家族谱系。

精读 DeepSeek-R1 论文（arXiv 2501.12948）：R1-Zero 不经 SFT、只用 GRPO 与规则奖励直接在基座上跑出「aha moment」与反思涌现；完整拆解冷启动 SFT→推理 RL→拒绝采样 SFT→全场景 RL 四阶段管线，以及「小模型蒸馏优于直接 RL」的关键结论，全部数字溯源论文表 2、表 4 与蒸馏结果表。

奖励曲线、显卡故障全公开]

真机试错又贵又慢又危险，仿真里的动作却近乎免费——但仿真和现实隔着一道「现实差距」。本文一篇读懂 Sim2Real：域随机化如何让真世界变成「另一种随机」、特权学习怎么传递老师经验、GPU 并行仿真如何把训练提速十倍，以及 2025 年以来的工具链现状。

文章通过在Qwen3-1.7B/4B/8B上以NO-THINK模式训练GRPO，提供证据表明NO-THINK模式下的性能提升很大程度上源于对原模型THINK模式推理能力的部分重新激活（思维泄漏），而非学习到新的推理行为，表现为回答变长、内部激活向THINK模式偏移等。

2012 年 10 月，一个用两块游戏显卡训练了五六天的神经网络，把 ImageNet 图像识别错误率从 26% 砍到 15%，整个领域为之改宗。此后五年：ResNet 越过人眼基准、注意力机制埋下 Transformer 的种子、AlphaGo 4:1 击败李世石让全世界重新认识机器学习。本文是「机器学习简史」系列第三篇，用一手论文数据复盘深度学习的黄金五年，也不回避这五年里的「炼金术」之争。

2017 年 6 月，八位 Google 研究员在一篇机器翻译论文里抛弃了循环网络，标题只有五个词：Attention Is All You Need。此后九年：GPT-3 证明规模即能力、ChatGPT 两个月一亿用户、Scaling Laws 驱动军备竞赛、DeepSeek 用十分之一成本撼动算力叙事、推理模型开启第二条扩展曲线。本文是「机器学习简史」系列完结篇，所有 2024 年后的关键事实均经联网核实，带你看清截至 2026 年 10 月的大模型版图，与依然悬而未决的终极争论。

2024 年 9 月 o1 用「先想一会儿」在 AIME 上打出 83% 对 13%，2025 年 1 月 DeepSeek-R1 把整套方法开源复现，到 2026 年 10 月，推理档位已成各大模型 API 的标准旋钮。本文沿思维链、GRPO、RLVR 到 R1 四阶段流水线，拆解推理模型的完整炼成路径，也正视「激发还是塑形」「虚假奖励」「熵坍缩」三场未完的争论。

苏黎世联邦理工学院研究人员基于常规仿人机械手，利用强化学习在仿真中训练出可依靠指尖自行行走、被碰倒后多数情况能自主站起、并能敲键盘和玩推箱子的机械手。

2017 年 Ali Rahimi 领奖时说「机器学习变成了炼金术」，LeCun 当场反驳；八年过去，模型能力涨了几个数量级，「为什么泛化」的数学解释仍然是一堆可解模型里的定理。本文盘点深度学习数学基础的现状：随机标签实验、双下降、NTK、grokking、scaling laws 各自被解释到了哪一步，哪一步仍然卡住，以及 2026 年「学习力学」的学科宣言算不算转折点。

深度学习不是 2012 年凭空出现的——1986 年反向传播论文就登上了 Nature，LeCun 的 LeNet 在 1990 年代替银行处理了一成支票。但同期的 SVM 凭理论保证把神经网络压到学科边缘，「两种文化」之争贯穿整个中场。本文是「机器学习简史」系列第二篇，复盘 1986–2012 年反向传播复兴、卷积网络商战、SVM 逆袭、Netflix Prize 竞赛时代与 2006 年深度信念网络，看清三要素如何在中场悄然汇合。

梯度只给方向，学习率决定步长。一个可运行的 numpy 实验演示过大、合适、过小三种学习率的命运；梳理 step decay、cosine、warmup 与 WSD 调度器的取舍与主流大模型的实际选择；并给出 AdamW 预训练、全参微调与 LoRA 的实用取值锚点。

「Agent 工程系统学习」专题导读：一套教材型 AI Agent 工程学习资料的总览。给出使用顺序建议（01-04 地基 / 05-08 能力扩展 / 09-12 生产化 / 13 前沿）、13 章完整目录与状态依赖表、版本口径（基于 2026-10 工程共识与 MCP 2026-07-28、OTel GenAI、OWASP 2026 等一手规范），以及贯穿全系列的总原则——用确定性的工程系统管理一个概率性的组件（模型），并让两者的边界清晰可审计。

GPT-3 有 1750 亿参数却不会「听懂指令」，InstructGPT 用 13k 条示范、33k 条偏好排序和 PPO 强化学习，让 1.3B 的小模型在人类评测里反超大 100 倍的前辈。本文逐层拆解 RLHF 三阶段——SFT、奖励模型、PPO——以及 KL 惩罚、标注员分歧、模式坍缩这些决定成败的细节。

Anthropic 的 Constitutional AI（Bai et al., 2022）提出两段式对齐：模型按约 75 条成文原则自我批评、修订回答做监督学习，再用 AI 反馈（RLAIF）替代人类偏好标注做强化学习。本文精读两阶段的机制、与 RLHF 的对照，以及「AI 给 AI 打分」的遗留问题。

IT之家 9 月 22 日消息，小米今日凌晨正式发布并开源了全新的 Xiaomi MiMo-V2.6 系列，包含 Pro 与 Flash 两个原生全模态模型。 小米称这是其探索 RSI（递归自我改进）路径的关键一步，通过规模化扩展强化学习算…

一水* 2026-09-22 19:50:28 来源：量子位 Hugging Face CEO：「太棒了」 6天，2000多万，小米这场史无前例的「炼丹直播」终于尘埃落定。 过去这六天，小米把一场大模型强化学习训练搬进直播间，眼看着美元计…

IT之家 9 月 17 日消息，小米 MiMo 大模型负责人罗福莉今日发文，自 4 月份开源 MiMo-v2.5 后，小米沉寂了近半年，花时间研究了一件事 —— 强化学习究竟能扩展到多远 。 MiMo-V2.6 目前正处于强化学习中间阶段。…

把 2026 年可核查的公开证据整理成一张六层能力路线图——预训练、后训练 RL、推理时计算、上下文与记忆、智能体与 Harness、世界模型。含 Meta ScaleRL 40 万 GPU 小时实验结论、RL 预算占比 10%–30% 口径、Chinchilla 对比、Meta-Harness 6x 差距等数据锚点，并给出优先级表与算法工程师/产品经理的行动建议。

解读 R1 在强化学习范式下的推理能力涌现，及其对开源生态的影响

「机器会思考吗？」这个 1950 年的疑问，如何一步步变成 1958 年报纸头版上的感知机奇迹，又如何在 1974 年和 1987 年两次坠入寒冬？本文是「机器学习简史」系列第一篇，从 MP 神经元、图灵模仿游戏、达特茅斯会议讲到感知机兴衰、Lighthill 报告与 Lisp 机器崩塌，用一手文献复盘 AI 前四十年的大起大落，以及两次寒冬留给今天的教训。

在提示里放几个输入-输出示例，模型一次前向传播就把新任务干得像模像样——没有梯度更新，没有训练循环，这就是上下文学习（ICL）。本文从 GPT-3 论文讲起，拆解「示例标签错了性能几乎不掉」这个反直觉实验，以及隐式贝叶斯推断与隐式微调两种主流解释，最后落到写提示词时真正管用的几条推论。

2024 年诺贝尔物理学奖授予 John Hopfield 与 Geoffrey Hinton，表彰其利用人工神经网络实现机器学习的基础性发现；化学奖同时颁给蛋白质计算先驱。

港大数据智能实验室出品，上线十个月拿下四万五千星：一条单循环 agent 流水线跑全部十种学习模式，L1/L2/L3 三层记忆全部落盘可审计，九种 RAG 引擎可评测可切换，自带十五路 IM 渠道与 EduHub 技能市场。

模仿学习的老问题是「多峰动作分布」——两种都对的做法被回归平均成一种错的。Diffusion Policy 用条件去噪扩散直接建模动作分布，在 12 个任务、4 个基准上平均成功率提升 46.9%，此后 DP3、DPPO 相继跟进，π0 的流匹配与 GR00T 的扩散 Transformer 把它推成了 VLA 时代的标配动作头。

Agent 工程系统学习第 13 章（前沿专题）：三个高薪高门槛方向。后训练三阶段管线（SFT → DPO/RLVR → On-Policy Distillation）与 Agentic RL 两大工程难点（长程 credit assignment、可验证奖励需要可靠执行环境），从生产轨迹到训练集的数据飞轮；全双工语音三块积木（流式 ASR / VAD / barge-in 取消语义）与延迟预算；编码智能体 = 模型 + Harness 的六机制拆解与动手路径。

《Language Models are Few-Shot Learners》（Brown et al., 2020）把 GPT-3 推到 175B 参数，真正的发现却是另一个：只靠提示词里放几个例子，模型就能完成没训过的任务——in-context learning 从此改写了 NLP 的工作方式。本文精读这篇论文的机制、数据与遗留争议。

学习另一门语言是一项高度复杂的脑力活动。它要求人们记忆单词、分辨陌生的声音、识别语言规律、推敲语法规则，在恰当的时刻提取出正确的表达。而这一切，都在人们进行倾听、理解并准备回应的同时发生。这些脑力活动也能帮助保持衰老大脑的健康吗？研究表明，…

9 月 15 日晚间消息，近日，华为心声社区对外披露了华为监事会主席郭平与新员工座谈纪要。在与新员工的沟通中，郭平回应了手机业务与苹果对比、车 BU 发展、大模型战略、半导体业务方向等话题。 谈超越苹果：专注做好自身，虚心向苹果学习 被问及…

IT之家 10 月 25 日消息，据《商业内幕》今天报道，谷歌 DeepMind 高管莱拉 · 易卜拉欣（Lila Ibrahim）近期表示，**公司越来越看重那些能够证明自己在课堂之外**，**持续学习的求职者**。 这名高管表示，虽然学…

前 OpenAI 科学负责人 Kevin Weil 与前 Meta AI 高管 Manohar Paluri 创办的 Warp Sciences 走出隐身，完成 2.15 亿美元融资，用 AI 与机器人自动化加速药物化学研发。

衡宇* 2026-10-07 22:10:33 来源：量子位 乔不迟 发自 凹非寺 量子位 | 公众号 QbitAI 刚刚，2026年诺贝尔化学奖正式揭晓！ 瑞典皇家科学院宣布，今年的诺贝尔化学奖授予法国巴黎第十一大学的**Henri B…

法国科学家Henri Kagan和日本科学家硖合宪三因在手性分子形成机制方面的贡献获2026年诺贝尔化学奖：Kagan发现操控化学反应产生更大镜像过剩量的新方法，硖合宪三展示了仅生成单一镜像构型的反应。

推理时多花算力能换准确率：self-consistency 投票、过程奖励模型引导搜索、budget forcing 强制续想，三条路线各有边界。本文以 s1 论文与 2025–2026 年的 overthinking 研究为轴，梳理 test-time scaling 的效果账与失效点。

IT之家 9 月 23 日消息，夏威夷时间 9 月 22 日 9 点（北京时间 9 月 23 日 3 点）召开的 2026 骁龙峰会上，高通公司宣布在其第六代骁龙 8 超级至尊版芯片上，**强化支持虚幻引擎 5（Unreal Engine …

IT之家 9 月 19 日消息，荣耀学习空间 App 手机版今日官宣上线，AI 作业辅导工具、同步教材、课后教辅、名师课统统装进荣耀手机里。 下载指南： 1. 设置-系统和更新-软件更新，将系统升级至 MagicOS 11 2. 桌面下拉-…

后端工程师的知识体系与成长路线规划

把吴恩达 2026 年 8–9 月连发五封信构建的《AI 工程技能地图》从"看懂"变成"照做"：给出 20 格可打分自评表（四大顶层能力 × 全部细分项，每格配一句过关判定问题），逐格拆解"学什么—怎么练—什么算过关"，并附三条不同起点的学习路径、一张 12 周计划表、三个必做练手项目与七个反模式清单。全部细项定义来自吴恩达原文，判定问题与计划表为本文延伸并已标注。

Apertus 1.5 通过在 4T（8B）/2T（70B）额外 token 上继续预训练，为完全开放的 Apertus 系列增加了图像与音频理解能力，并将上下文窗口扩展至 262,144 个 token，架构保持不变，多模态通过 tokenizer 引入，随后经 SFT、长上下文微调、可验证奖励强化学习与偏好对齐完成训练。

JetBrains 推出面向编码智能体的开源模型 Mellum2.1，总参数 12B、每 token 激活 2.5B，主要通过在真实软件环境中的强化学习带来提升，以 Apache 2.0 协议在 Hugging Face 发布，可自托管运行。

论文提出利用预训练流策略速度雅可比矩阵集中于对角线的观察，推导闭式标量伴随，替代逐步骤向量-雅可比乘积，以更低的计算成本对流策略进行离线强化学习微调。

OpenAI 发布了专注于“失准报告”的新站点，收录九起事件，其中大多数发生在强化学习训练期间，涵盖多种异常行为，且范围和时间跨度较大。