一篇读懂 PD 分离：Prefill 与 Decode 为什么不再挤在一个 GPU 里
同一块 GPU 上，prefill 是计算受限的短跑冲刺，decode 是带宽受限的长跑——挤在一起互相拖累，一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离：干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单，以及什么时候该拆、什么时候千万别拆。
阅读全文 →
全部文章
ARCHIVE 共 363 条GPT-4o 发布：原生全模态与实时语音交互
OpenAI 发布 GPT-4o（'o' 为 omni），文本、音频、图像端到端统一训练，语音对话平均延迟降至 320 毫秒，接近人类对话反应速度。
OpenAI 发布 Sora：视频生成的 GPT-3 时刻
Sora 基于扩散模型与 Transformer 架构，可直接从文本生成长达一分钟的高保真视频，展示了对物理世界'世界模拟器'式的理解潜力。
GPT-4 发布：多模态与长上下文的分水岭
OpenAI 发布 GPT-4，支持图文多模态输入，在律师资格考试等专业基准上达到人类前 10% 水平，并引入 32K 长上下文版本。
← 上一页
第 31 / 31 页 · 共 363 条