搜索:Scaling Law

共命中 50 条(服务端检索)
Test-Time Scaling:让模型「多想一步」的三种姿势与一个天坑
推理时多花算力能换准确率:self-consistency 投票、过程奖励模型引导搜索、budget forcing 强制续想,三条路线各有边界。本文以 s1 论文与 2025–2026 年的 overthinking 研究为轴,梳理 test-time scaling 的效果账与失效点。
研究前沿 精选 · 原创 · 10-7 阅读 195·访客 194
华为大模型双子星联手创业,要找物理世界的Scaling Law
Jay* 2026-09-25 14:14:07 来源:量子位 一场物理世界的基模实验 程浅 发自 凹非寺 量子位 | 公众号 QbitAI 数亿元资金,投向了一场物理世界的基模实验。 Physical AI创业公司**息壤开物**宣布,…
大模型 量子位 · 9-25 阅读 43·访客 43
深度学习的数学基础:我们知道它能用,却说不清为什么
2017 年 Ali Rahimi 领奖时说「机器学习变成了炼金术」,LeCun 当场反驳;八年过去,模型能力涨了几个数量级,「为什么泛化」的数学解释仍然是一堆可解模型里的定理。本文盘点深度学习数学基础的现状:随机标签实验、双下降、NTK、grokking、scaling laws 各自被解释到了哪一步,哪一步仍然卡住,以及 2026 年「学习力学」的学科宣言算不算转折点。
研究前沿 精选 · 原创 · 10-10 阅读 213·访客 211
Scaling Laws 十问十答:算力、数据与参数的交换律
以十个问答讲清 Scaling Laws:幂律为什么可外推、Chinchilla 如何修正参数与数据的配比、6ND 公式怎么当算力换算器、数据枯竭与推理时算力这两条新变量,以及这门「经验定律」对大公司与创业者的不同含义。
研究前沿 精选 · 原创 · 10-6 阅读 350·访客 348
OpenAI takes aim at the legal market with Astra for Law
OpenAI has introduced Astra for Law, a version of its GPT-6 Astra model built for legal work. The article OpenAI takes a…
大模型 The Decoder · 9-18 阅读 33·访客 33
Sample Count Is Not Enough: Candidate-Generation Strategy Shapes the Energy and Performance of LLM Test-Time Scaling
Test-time scaling can improve large language model reasoning by generating and combining multiple candidate responses. I…
研究前沿 HuggingFace Daily Papers · 9-16 阅读 32·访客 31
大模型能力提升路线图:从"堆参数"到训练全栈 + 外层程序
把 2026 年可核查的公开证据整理成一张六层能力路线图——预训练、后训练 RL、推理时计算、上下文与记忆、智能体与 Harness、世界模型。含 Meta ScaleRL 40 万 GPU 小时实验结论、RL 预算占比 10%–30% 口径、Chinchilla 对比、Meta-Harness 6x 差距等数据锚点,并给出优先级表与算法工程师/产品经理的行动建议。
大模型 精选 · 本站原创 · 9-10 阅读 435·访客 411
机器学习简史(四):Transformer 之后,大模型时代
2017 年 6 月,八位 Google 研究员在一篇机器翻译论文里抛弃了循环网络,标题只有五个词:Attention Is All You Need。此后九年:GPT-3 证明规模即能力、ChatGPT 两个月一亿用户、Scaling Laws 驱动军备竞赛、DeepSeek 用十分之一成本撼动算力叙事、推理模型开启第二条扩展曲线。本文是「机器学习简史」系列完结篇,所有 2024 年后的关键事实均经联网核实,带你看清截至 2026 年 10 月的大模型版图,与依然悬而未决的终极争论。
研究前沿 精选 · 原创 · 10-10 阅读 423·访客 385
SWE-Duel: Towards a Self-Scaling Arena for Coding Agents
Static coding benchmarks are fixed at release. Over time their tasks leak into training data, and stronger agents eventu…
智能体 HuggingFace Daily Papers · 10-8 阅读 42·访客 41
MiMo-V2.6: Scaling Reinforcement Learning Towards Self-Improvement
Reinforcement learning (RL) is the central training paradigm for advancing large foundation models towards self-improvem…
行业动态 HuggingFace Daily Papers · 10-8 阅读 22·访客 22
How Far Are We from Removing the Visual Encoder? Scaling Laws for Encoder-Free Multimodal Pretraining
Most modern multimodal large language models (MLLMs) build on a pretrained visual encoder that provides a strong visual …
大模型 HuggingFace Daily Papers · 9-28 阅读 42·访客 42
DISCO: Distributed Long Context Scaling with Grounding-Reasoning Disaggregation
While Large Language Models (LLMs) advertise million-token context windows, reasoning quality often collapses as inputs …
研究前沿 HuggingFace Daily Papers · 9-27 阅读 31·访客 31
Australia to investigate if OpenAI hack of government health website broke the law
An OpenAI model hacked into an Australian government website, the country’s prime minister Anthony Albanese said Wednesd…
行业动态 TechCrunch · 9-24 阅读 50·访客 50
Agensh: Scaling Organizational Intelligence to 1,024 Agents
A multi-agent system can reduce latency on complex tasks by executing work concurrently. Several pioneering harness fram…
智能体 HuggingFace Daily Papers · 9-22 阅读 52·访客 52
CodeMidas: Scaling Agentic Coding RL Environments from Code Itself
Training capable coding agents via reinforcement learning (RL) requires diverse tasks with reliable verifiers. Open-sour…
智能体 HuggingFace Daily Papers · 9-18 阅读 78·访客 75
SoL-Pi: Recursively Scaling Auto-Research Loops for Efficient Agent Harness
As coding agents move from supervised code completion to unattended, around-the-clock exploration, their work expands fr…
智能体 HuggingFace Daily Papers · 9-17 阅读 81·访客 80
GE-Act 2.0: Pretraining and Scaling a World-Action Model for Robotic Manipulation
World-action models (WAM) predict future states to guide robot actions, enabling learning from both action-free video an…
智能体 HuggingFace Daily Papers · 9-4 阅读 54·访客 53
Scaling Automatic Research Agents via World Models
Automating empirical research is a long-standing direction of AI. Recent automatic research (AutoResearch) agents bring …
智能体 HuggingFace Daily Papers · 8-29 阅读 58·访客 56
LaLa-World: Scaling Latent World Models with Natural Language Actions
This paper shows that JEPA-style latent world models (LWMs) can learn across diverse domains and data sources by adoptin…
研究前沿 HuggingFace Daily Papers · 10-21 阅读 3·访客 3
MMedAgent-Plus: Scaling Multimodal Medical Agents across Modalities, Tasks and Workflows
Medical workflows often require multiple interdependent analyses, but existing specialist and generalist AI models are n…
智能体 HuggingFace Daily Papers · 10-19 阅读 19·访客 19
SoftwareGym: Scaling Computer-Use Agent Training with Diverse Synthesized Software Environments
Computer-use agents (CUAs) are rapidly improving, yet synthesizing diverse and reliable software environments at scale r…
智能体 HuggingFace Daily Papers · 10-8 阅读 35·访客 35
PersonTTS:面向个性化需求的摊销式智能体策略发现的测试时扩展方法
论文提出个性化测试时扩展(Personalized Test-Time Scaling)问题,将用户对精度、延迟与推理成本的联合要求纳入优化目标,并给出摊销式智能体策略发现框架 PersonTTS 以降低为不同用户需求重复搜索策略的开销。
研究前沿 HuggingFace Daily Papers · 10-7 阅读 24·访客 24
Stateless Language Agents: Scaling Long-Horizon Automated Research
Automated research systems increasingly run LLM agents over long horizons, but more inference does not by itself produce…
智能体 HuggingFace Daily Papers · 10-6 阅读 46·访客 45
Smaller Models, Better Rejects: Preference Distillation Scaling
Preference distillation typically treats a teacher response as preferred and the student's own response as rejected. Thi…
行业动态 HuggingFace Daily Papers · 9-30 阅读 24·访客 24
Block Sparse Attention with Log-Linear Complexity
Scaling language models to long contexts is limited by the quadratic cost of self-attention. Block sparse attention offe…
智能体 HuggingFace Daily Papers · 9-25 阅读 50·访客 49
Emerald AI, Google and NVIDIA Launch Alliance to Advance Flexible AI Data Centers
AI factories are the infrastructure of the intelligence era. Scaling them responsibly will depend as much on innovation …
行业动态 NVIDIA Blog · 9-16 阅读 28·访客 28
NVIDIA Vera Rubin NVL72 Delivers Leading Performance in MLPerf Inference v6.1 Debut
System performance, efficient infrastructure scaling and continuous software optimization are key levers that determine …
行业动态 NVIDIA Blog · 9-16 阅读 31·访客 31
LimiX-2: A Contextual Mechanism Network Towards General Structured-Data Intelligence
We introduce LimiX-2, a new model in the LimiX family, developed through model and data scaling guided by our previously…
行业动态 HuggingFace Daily Papers · 9-15 阅读 30·访客 29
MoME: Mixture-of-Memory Embeddings for Context-Aware Sparse Lookup
Scaling large language models efficiently has motivated sparse capacity mechanisms such as Mixture-of-Experts and, more …
行业动态 HuggingFace Daily Papers · 9-14 阅读 28·访客 28
Anthropic says one AI agent beats many subagents now that models can handle complexity alone
Oct 25, 2026 Nano Banana Pro prompted by THE DECODER Key Points Anthropic recommends that companies evaluate whether the…
智能体 The Decoder · 5天前 阅读 29·访客 29
谁在给OpenAI供应具身数据?
梦瑶* 2026-10-22 15:05:59 来源:量子位 挤进全球Physical AI核心供应链 这RSI,那AGI,别看今天山姆·奥特曼已经把自家模型卷得没边儿了,我还是要说一句—— 在Physical AI这事儿上,**Open…
行业动态 量子位 · 10-22 阅读 15·访客 15
0.2秒急停、秒级重规划!因果智能走进真实世界
Jay* 2026-10-09 16:47:34 来源:量子位 这是一台机器人正在关闭微波炉门时,因人手突然插进来而紧急悬停的时间 Jay发自 凹非寺 量子位 | 公众号QbitAI 0.2秒。 这是一台机器人正在关闭微波炉门时,因人手突…
行业动态 量子位 · 10-9 阅读 27·访客 27
MoE 深度解析:路由、负载均衡与 671B 只激活 37B 的代价
混合专家(MoE)让模型参数量与计算量解耦,但代价是引入了一个训练时最容易翻车的部件——路由器。本文沿「辅助损失 → z-loss → 免辅助损失的偏置调节」这条负载均衡演进线,拆解从 Switch Transformer 到 DeepSeek-V3 的路由设计细节,并核对 2025 年开源 MoE 收敛到 DeepSeek 范式的过程与遗留争议。
大模型 精选 · 原创 · 10-9 阅读 300·访客 285
RoboJEPA:可扩展的机器人潜在世界模型
提出基于JEPA的机器人世界模型RoboJEPA,在覆盖12种机器人本体的数据集上训练,发现其想象误差随算力呈二阶幂律,可预测模型质量与下游规划性能的扩展规律。
研究前沿 HuggingFace Daily Papers · 10-7 阅读 22·访客 22
一篇读懂 DiT:视频生成模型为什么都换上了 Transformer 主干
从 Peebles 与谢赛宁的 DiT 论文到 Sora 的时空 patch,讲清 Diffusion Transformer 的三个关键设计:patch 化、adaLN-Zero 条件注入与以计算量为标尺的可扩展性。
一叶一世界 精选 · 原创 · 10-7 阅读 255·访客 249
刚刚,诺贝尔物理奖一人独揽!
Jay* 2026-10-06 18:44:58 来源:量子位 南极洲甚至有一座高地以他名字命名 Jay 发自 凹非寺 量子位 | 公众号 QbitAI 刚刚,诺贝尔物理学奖公布。 这一次没有任何并列,得主只有一个人,来自美国威斯康星大学…
研究前沿 量子位 · 10-6 阅读 29·访客 29
Jev估值100亿美元!创始人Diogo Almeida回答一切
梦晨* 2026-10-03 10:38:19 来源:量子位 文婷 发自 凹非寺 量子位 | 公众号QbitAI 他来了他来了,TypeSafe AI的联合创始人兼CEO **Diogo Almeida**,顶着一头新染的红发闪亮登场了!…
研究前沿 量子位 · 10-3 阅读 45·访客 45
UniWAM:统一的世界-动作模型
UniWAM 提出统一架构,整合物理推理器、世界生成器与动作预测器,联合学习物理世界语义理解、视觉生成与动作预测,并配套了严格的数据清洗与标注流程。
研究前沿 HuggingFace Daily Papers · 10-1 阅读 21·访客 21
别人忙着卷Code,Kimi抽身反打浏览器插件:网页操作一秒变Skill
Jay* 2026-09-25 14:20:56 来源:量子位 Agent的手越伸越长 鹭羽 发自 凹非寺 量子位 | 公众号 QbitAI 不ber?**Kimi**你是考古派的啊。。。 都6202年了,怎么还在玩浏览器插件??? 前脚…
智能体 量子位 · 9-25 阅读 65·访客 65
呃…小扎「自研Manus」刚成Meta太子,就塌房了
Jay* 2026-09-25 14:11:10 来源:量子位 人工外包团队 Jay 发自 凹非寺 量子位 | 公众号 QbitAI 这这这,Meta自研的Manus,咋直接在内部晋升「太子」了啊?? 刚刚结束的Connect大会上,扎克…
智能体 量子位 · 9-25 阅读 59·访客 59
AGI最难一战,竟在医院!中国AI登上Science,医生不怕失业还催着上线
用通用AI去啃最硬的骨头,这条路走得通]
行业动态 量子位 · 9-18 阅读 39·访客 39
对话蚂蚁灵波 CEO 朱兴:机器人还吃不了「粗粮」
具身智能会有自己的「ChatGPT 时刻」吗 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。 ]
大模型 爱范儿 · 9-16 阅读 36·访客 35
清华稳准智能联合发布LimiX-2,结构化数据基础模型登顶国际评测榜单
9月16日,稳准智能联合清华大学发布新一代数据大模型 LimiX-2,模型参数规模提升至400M。]
大模型 量子位 · 9-16 阅读 38·访客 38
端侧AI从「能跑」到「会进化」,元空智能跑进惠普预装
让模型和设备共同进化]
行业动态 量子位 · 9-14 阅读 37·访客 37
陶哲轩邓煜究竟在反对什么:AI暴力解题摧毁人类数学精神
25位菲尔兹奖得主联名吹哨]
行业动态 量子位 · 9-12 阅读 32·访客 31
OpenAI o1 问世:推理时计算开启新范式
o1 系列通过强化学习训练模型'先思考再回答',在数学、代码与科学推理上大幅跃升,开创了推理时扩展(Test-time Compute)的新 Scaling 维度。
研究前沿 精选 · OpenAI · 2024-09-12 阅读 733·访客 730
OpenAI 发布 Sora:视频生成的 GPT-3 时刻
Sora 基于扩散模型与 Transformer 架构,可直接从文本生成长达一分钟的高保真视频,展示了对物理世界'世界模拟器'式的理解潜力。
大模型 精选 · OpenAI · 2024-02-16 阅读 451·访客 447
The AI graveyard: a running list of projects and startups that didn’t make it
Relay, an AI-powered workflow automation tool built as an alternative to Zapier, shut down entirely in August. The produ…
智能体 TechCrunch · 5天前 阅读 37·访客 36
Ex-Google CEO Eric Schmidt calls OpenAI and Anthropic modern colonial trading companies
Manuel Uth Oct 25, 2026 Nano Banana Pro prompted by THE DECODER Key Points The US and China have locked up the global AI…
行业动态 The Decoder · 5天前 阅读 3·访客 3
AI makes junior patent attorneys instantly better but may quietly stunt their professional growth
Oct 24, 2026 Nano Banana Pro prompted by THE DECODER A three-month field experiment with 133 patent attorneys shows that…
行业动态 The Decoder · 6天前 阅读 24·访客 24