一篇读懂 PD 分离：Prefill 与 Decode 为什么不再挤在一个 GPU 里
同一块 GPU 上，prefill 是计算受限的短跑冲刺，decode 是带宽受限的长跑——挤在一起互相拖累，一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离：干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单，以及什么时候该拆、什么时候千万别拆。
阅读全文 →
全部文章
ARCHIVE 共 361 条OpenAI API 疑现三个未公布模型：aurora-red/green/blue-alpha 短暂露面后被移除
10 月 18 日，aurora-red/green/blue-alpha 三个无文档、无定价的模型标识短暂出现在 OpenAI API 中随后被移除，测试者推测与图像生成有关。
DeepSeek 升级 V4.1 Flash 编程模型并开放搜索 API：千次调用 5 元，按成功计费
DeepSeek 将 V4.1 Flash 更新至 1017 版，同步向公众开放 Search 与 Fetch 两个接口，定价均为 5 元/千次，按成功调用计费。
蚂蚁百灵开源 Ling-3.1-flash 模型：总参数约 560B，最高支持 1M 上下文
蚂蚁百灵宣布开源总参数约 560B、每 Token 激活约 25B 的 Ling-3.1-flash 模型，最高支持 1M 上下文，并介绍了 MXFP4 量化、长上下文并行推理、投机解码等部署优化方案。
The LLM-Attacker: A Unified Red-Team Framework for Privacy Evaluation of Split and Distributed LLM Systems
Split language models keep input text on a client but send intermediate representations to a server. Attacks can reconst…
阶跃星辰开源 Step 5 Preview 权重，华为昇腾、沐曦、壁仞等首发支持
阶跃星辰开放 Step 5 Preview 模型权重（BF16/FP8 双版本），华为昇腾、壁仞、沐曦、摩尔线程宣布 0Day 支持，1024 卡 Atlas 950 SuperPoD 液冷超节点同步上线点亮。
英伟达发布 1200 亿参数开放多模态模型 Nemotron 3.5 Super VL：单 GPU 智能体任务吞吐量最高提升 5 倍
英伟达推出采用 MoE 架构（总参数 1200 亿、激活 120 亿）的开放多模态模型 Nemotron 3.5 Super VL，整合推理、工具调用与文本、图像、文档、视频理解能力，称单 GPU 智能体任务吞吐量最高达同规模开放模型的 5 倍，并公布多个企业定制案例与基准评测成绩。
Anthropic 弃用 Git，自研版本控制系统 Scion 服务端管理源码
因代码合并量从日均 2500 次增至超 3 万次，Anthropic 弃用 Git 改用自研的 Scion 版本控制系统，将提交、合并、变基等操作移至服务器端执行，宣称 CPU 与内存消耗仅为 Git 的两百分之一，并需配套定制代码审查、搜索与 CI 工具。
Google’s Universal Cart shopping tool launches in the US
Google on Thursday said “Universal Cart,” a tool that lets users collect and monitor products they find across search an…
Google Releases Gemini 4 Argon API With 1M Token Output Limit
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
9 Best AI Gateways in 2026: Bifrost, Portkey, LiteLLM, Kong and 5 More Ranked
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
首个政务大模型国家标准发布，金山办公参与编制
首个政务大模型国家标准正式发布，为政务大模型系统建设与应用提供国家层面规范，金山办公参与编制。
Anthropic's Claude AI submitted false murder tip to Philadelphia police
An Anthropic AI model submitted a false tip about an unsolved murder to Philadelphia police, the company and police depa…