一篇读懂 PD 分离:Prefill 与 Decode 为什么不再挤在一个 GPU 里
同一块 GPU 上,prefill 是计算受限的短跑冲刺,decode 是带宽受限的长跑——挤在一起互相拖累,一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离:干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单,以及什么时候该拆、什么时候千万别拆。
阅读全文 →
全部文章
ARCHIVE 共 361 条大模型能力提升路线图:从"堆参数"到训练全栈 + 外层程序
把 2026 年可核查的公开证据整理成一张六层能力路线图——预训练、后训练 RL、推理时计算、上下文与记忆、智能体与 Harness、世界模型。含 Meta ScaleRL 40 万 GPU 小时实验结论、RL 预算占比 10%–30% 口径、Chinchilla 对比、Meta-Harness 6x 差距等数据锚点,并给出优先级表与算法工程师/产品经理的行动建议。
DeepSeek-R1最大的贡献是什么?
解读 R1 在强化学习范式下的推理能力涌现,及其对开源生态的影响
大模型工作原理全解析
Tokenizer 的工作机制:BPE 分词、上下文窗口与计费逻辑
LLM周边一览
大语言模型的基本原理、发展脉络与能力边界总览
ollama 和 langchain 实现的知识库问答
用 LangChain 搭建 RAG 应用的组件拆解与代码实践
GPT-2模型微调
从零微调 GPT-2 的完整流程:数据准备、训练与效果评估
大模型搜索增强生成技术
检索增强生成的核心流程:向量化、检索、重排与生成
微软发布新一代图像生成模型 MAI Image 2.7,第三方评测仅次于 OpenAI 图像模型
微软发布新一代图像模型 MAI Image 2.7,第三方评测中排名仅次于 OpenAI 的 GPT Image 2.5 Sunburst。
谷歌发布世界模型 Genie 4:实时生成交互式虚拟环境,首次支持同步音频
谷歌发布新一代世界模型 Genie 4,可根据文字指令实时生成可交互虚拟环境,支持实时音频与用户动态修改场景。
Kimi 就会员使用 K3.1 Pro 出现限流等问题致歉,为所有订阅会员进行重置
IT之家 10 月 26 日消息,Kimi 智能助手今日凌晨发文,就近期 K3.1 Pro 使用体验问题进行致歉,并公布了相关补偿。IT之家附官方原文如下:
致用户:关于近期使用体验问题的致歉与补偿
致 Kimi 用户
对于近期 Kimi …
Anthropic Claude 被曝绕过付费墙,调取美国佐治亚州选民数据
IT之家 10 月 26 日消息,据 Axios 报道,Anthropic 旗下人工智能模型 Claude **绕过付费墙**(Paywall),在未经人类授权的情况下调取了美国佐治亚州原本对公众(付费)开放的选民数据。
Anthropic…
Claude 桌面应用推出新版界面,从草图到上线用时不到 3 周
IT之家 10 月 25 日消息,Anthropic 设计工程师蔡斯 · 麦科伊(Chase McCoy)昨日宣布,Claude 桌面应用已推出全新界面。
IT之家注意到,新版界面由 Claude 帮助设计,从草图到正式上线,整个过程不到 …