推理时多花算力能换准确率：self-consistency 投票、过程奖励模型引导搜索、budget forcing 强制续想，三条路线各有边界。本文以 s1 论文与 2025–2026 年的 overthinking 研究为轴，梳理 test-time scaling 的效果账与失效点。

以十个问答讲清 Scaling Laws：幂律为什么可外推、Chinchilla 如何修正参数与数据的配比、6ND 公式怎么当算力换算器、数据枯竭与推理时算力这两条新变量，以及这门「经验定律」对大公司与创业者的不同含义。

Test-time scaling can improve large language model reasoning by generating and combining multiple candidate responses. I…

Most modern multimodal large language models (MLLMs) build on a pretrained visual encoder that provides a strong visual …

While Large Language Models (LLMs) advertise million-token context windows, reasoning quality often collapses as inputs …

Jay* 2026-09-25 14:14:07 来源：量子位 一场物理世界的基模实验 程浅 发自 凹非寺 量子位 | 公众号 QbitAI 数亿元资金，投向了一场物理世界的基模实验。 Physical AI创业公司**息壤开物**宣布，…

A multi-agent system can reduce latency on complex tasks by executing work concurrently. Several pioneering harness fram…

Training capable coding agents via reinforcement learning (RL) requires diverse tasks with reliable verifiers. Open-sour…

As coding agents move from supervised code completion to unattended, around-the-clock exploration, their work expands fr…

World-action models (WAM) predict future states to guide robot actions, enabling learning from both action-free video an…

Automating empirical research is a long-standing direction of AI. Recent automatic research (AutoResearch) agents bring …

Preference distillation typically treats a teacher response as preferred and the student's own response as rejected. Thi…

Scaling language models to long contexts is limited by the quadratic cost of self-attention. Block sparse attention offe…

AI factories are the infrastructure of the intelligence era. Scaling them responsibly will depend as much on innovation …

System performance, efficient infrastructure scaling and continuous software optimization are key levers that determine …

We introduce LimiX-2, a new model in the LimiX family, developed through model and data scaling guided by our previously…

Scaling large language models efficiently has motivated sparse capacity mechanisms such as Mixture-of-Experts and, more …

把 2026 年可核查的公开证据整理成一张六层能力路线图——预训练、后训练 RL、推理时计算、上下文与记忆、智能体与 Harness、世界模型。含 Meta ScaleRL 40 万 GPU 小时实验结论、RL 预算占比 10%–30% 口径、Chinchilla 对比、Meta-Harness 6x 差距等数据锚点，并给出优先级表与算法工程师/产品经理的行动建议。

o1 系列通过强化学习训练模型'先思考再回答'，在数学、代码与科学推理上大幅跃升，开创了推理时扩展（Test-time Compute）的新 Scaling 维度。

梯度只给方向，学习率决定步长。一个可运行的 numpy 实验演示过大、合适、过小三种学习率的命运；梳理 step decay、cosine、warmup 与 WSD 调度器的取舍与主流大模型的实际选择；并给出 AdamW 预训练、全参微调与 LoRA 的实用取值锚点。

大语言模型吃的是万亿 token 网络文本，机器人能吃的真机数据却以「万条轨迹」计。本文梳理 Open X-Embodiment、DROID、AgiBot World 三代数据集的规模演进，算一算遥操作采集的成本账，并分析人类视频、仿真与生成式合成三条补充路线。

Mamba 把 SSM 参数改成输入的函数，让固定大小的状态学会按内容取舍；再靠并行扫描与 kernel 融合把状态装进 SRAM，线性复杂度落地——3B 匹敌两倍大的 Transformer，5 倍推理吞吐，线性扩展到百万长度。文末梳理截至 2026-10 它与 Attention 的分工现状。

从 RT-2 把机器人动作当文本 token 输出，到 OpenVLA 开源 7B、π0 用流匹配跑到 50Hz、GR00T 与 Helix 转向双系统架构——本文梳理 VLA 模型三年的演进脉络：动作怎么表示、参数怎么变小、控制频率怎么上去，以及开源与闭源两条路线的分野。

从 Peebles 与谢赛宁的 DiT 论文到 Sora 的时空 patch，讲清 Diffusion Transformer 的三个关键设计：patch 化、adaLN-Zero 条件注入与以计算量为标尺的可扩展性。

LayerNorm 把统计量搬回单样本，RMSNorm 再省掉中心化，换来 7%~64% 的归一化提速；而归一化挂在残差内侧还是外侧，决定梯度随深度指数衰减还是多项式失衡。本文推导公式，并用可运行的 numpy 演示把这笔训练稳定性账算给你看。

训练换 FP16 提速省显存，小梯度却会成批归零。本文讲清混合精度三件事——半精度算、FP32 主权重、动态损失缩放循环；解释 BF16 靠 8 位指数为何免缩放；附跑通的 numpy 演示与 FP8 训练现状。

《Language Models are Few-Shot Learners》（Brown et al., 2020）把 GPT-3 推到 175B 参数，真正的发现却是另一个：只靠提示词里放几个例子，模型就能完成没训过的任务——in-context learning 从此改写了 NLP 的工作方式。本文精读这篇论文的机制、数据与遗留争议。

GNoME 一次「发现」38 万个稳定晶体，A-Lab 宣称机器人 17 天合成 41 种新材料——随后被质疑、更正为 36 种。预测模型狂飙突进，实验验证却成了瓶颈。截至 2026 年 10 月，从预测到合成的闭环真正打通了吗？

「让我们一步步思考」为什么能让模型答对更多题？本文梳理思维链与推理时计算的研究脉络：从 few-shot 与 zero-shot 提示，到计算外化的核心解释，再到自一致性、结果奖励与过程奖励的分野，最后讨论假推理与验证瓶颈两条边界。

AI startups can grow at a speed that would have been difficult to imagine a generation ago. But rapid growth comes with …

梦晨* 2026-10-03 10:38:19 来源：量子位 文婷 发自 凹非寺 量子位 | 公众号QbitAI 他来了他来了，TypeSafe AI的联合创始人兼CEO **Diogo Almeida**，顶着一头新染的红发闪亮登场了！…

DeepSeek弹性计算团队以一篇技术分享代替岗位JD开启新一轮招聘，其DSec沙盒基础设施每天服务约300万个沙盒，支撑从V3.2到V4的Agent训练、评测与数据预处理，计划将Agent运行环境数量和种类扩充成百上千倍。

Sponsored In partnership withUniphore Enterprise AI is no longer a future ambition. It is in full operational flight. Mo…

TechCrunch Disrupt 2026 is built around one question: How do you build an enduring company in the AI era? Our programmin…

Local AI is becoming more useful by the token. As AI agents move from experiments into everyday development, increasingl…

闻乐* 2026-10-02 14:46:32 来源：量子位 换区也没用 闻乐 发自 凹非寺 量子位 | 公众号 QbitAI 论文现在也开始限流了…… 刚刚，arXiv给所有投稿人上了一道新规： 每人每月，最多提交两篇论文。** 而且不…

鹭羽* 2026-10-01 23:06:30 来源：量子位 用ImageNet训练encoder 克雷西 发自 凹非寺 量子位 | 公众号QbitAI 教会AI做ARC抽象推理题的，竟然是猫猫？ 何恺明团队最新论文提出了**NAT-AR…

Once a physical AI product is in the field, the compute problem changes shape. Fleet data starts arriving faster than a …

田, 晏林* 2026-09-30 20:11:24 来源：量子位 什么样的AI才适合工业现场？企业真正开始做工业AI时，又该从哪里下手？ 允中 发自 凹非寺 量子位 | 公众号 QbitAI 工业AI，正在从一个个单点项目，走向更真实、…

Sep 29, 2026 GIT-Image-2 prompted by THE DECODER Key Points Chipmaker AMD is acquiring World Labs, a startup focused on …

Building on nearly a decade of co-engineering, CoreWeave has built NVIDIA compute, networking and software into a cloud …

程浅 发自 凹非寺 量子位 | 公众号QbitAI “Navier–Stokes千禧年难题的突破，10000个Agent最多占了10%的功劳。” 此判断出自OpenAI研究员，o1核心作者NoamBrown之口。 NoamBrown，**人…

Geoffrey Hinton、Yoshua Bengio、Jakub Pachocki等20余位研究者在新论文中警告，AI研发自动化可能引发'智能爆炸'，呼吁决策者提前应对风险。

梦晨* 2026-09-29 08:49:30 来源：量子位 李飞飞将入职AMD首席科学家 梦晨 发自 凹非寺 量子位 | 公众号 QbitAI 82亿美元，AMD全股票收购李飞飞的World Labs。 从2024年初创办到2026年中…

Native 3D texture generation synthesizes colors directly in 3D space for a given geometry, conditioned on multi-view ref…

Latent communication passes internal states between language models instead of decoded text, but higher receiver accurac…

Reinforcement learning (RL) post-training for large language models (LLMs) coordinates multiple models across generation…

Welcome back to **TechCrunch Mobility**, your hub for the future of transportation and now, more than ever, the role AI …

Model merging integrates the capabilities of multiple experts without joint retraining, but standard expert training opt…

Tesla’s pivot from making electric cars to humanoid robots is facing challenges because of complex robot hands and disgr…