一篇读懂 PD 分离:Prefill 与 Decode 为什么不再挤在一个 GPU 里
同一块 GPU 上,prefill 是计算受限的短跑冲刺,decode 是带宽受限的长跑——挤在一起互相拖累,一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离:干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单,以及什么时候该拆、什么时候千万别拆。
阅读全文 →
全部文章
ARCHIVE 共 361 条快手可灵 AI Kling 4.0 将于 10 月上线,支持 4K HDR 与 30 秒视频生成
IT之家 9 月 29 日消息,快手可灵 AI 宣布,Kling 4.0 将于 10 月正式上线。其中,Kling 4.0 Flash 于 9 月 28 日率先开放小范围体验。
据介绍,Kling 4.0 支持 4K、1080p 的 10-…
Anthropic 发布 Claude Sonnet 5.5:速度提升超 30%,成本最高降低 30%
Anthropic 发布 Claude 5.5 系列第二款模型 Claude Sonnet 5.5,输出速度提升超 30%,单任务成本最高降低 30%,部分基准测试接近 Opus 5.5,并新增网络安全与蒸馏攻击防护,已登陆 AWS、Google Cloud 和 Azure。
Anthropic 发布 Claude Sonnet 5.5:Terminal-Bench 4.0 得分 70.6%,价格维持 $2/$10
Anthropic 发布 Claude Sonnet 5.5,称其为 Opus 5.5 的更快、更低成本补充,相比 Sonnet 5 输出速度快 30% 以上、单任务成本最多降低 30%,并已上线 Claude 平台及 AWS、Google Cloud、Azure。
Anthropic's IPO filing shows soaring revenue, mounting costs, and "existential" risks
Sep 29, 2026
GPT-Image-2 prompted by THE DECODER
Key Points
Anthropic is preparing to go public, and its S-1 prospectus …
OpenAI 放弃发布下一代模型 GPT-6.1 Astra:安全指标回退,对齐标准成发布门槛
OpenAI 因两项关键安全指标回退放弃发布原定 10 月上线的 GPT-6.1 Astra,安全与对齐指标正成为新一代高自主性模型的实质性发布门槛。
How Far Are We from Removing the Visual Encoder? Scaling Laws for Encoder-Free Multimodal Pretraining
Most modern multimodal large language models (MLLMs) build on a pretrained visual encoder that provides a strong visual …
黑客在暗网兜售 AI 模型访问权限,最低价仅有正版 3%
IT之家 9 月 28 日消息,据英国《金融时报》当地时间 26 日报道,非法获取 AI 模型和算力,正迅速成为网络犯罪黑市上最抢手的商品,黑客希望借助价格高昂的大模型实施勒索、网络战和间谍活动。
谷歌威胁情报团队首席分析师约翰 · 霍特奎…
FactorEngram: Factorized N-gram Memory with Basis-Level Gating for Language Models
Lookup-based memory has been a promising way to scale the parameters of large language models (LLMs). It retrieves learn…
月之暗面最强 AI 模型:Kimi K3.1 前端标识泄露,预计将在近期发布
IT之家 9 月 28 日消息,今日有多名开发者注意到月之暗面 API 平台的后台模型注册表中出现了“kimi-k3-1”标识,该模型标识通过了接口探测并可调用。
今日晚些时候,Kimi 官方开放平台也出现了 K3.1 或 K3 11111…
Hard Vision, Easy Vision: What GPT-6 Astra Reveals Across Computer Vision
Frontier general-purpose systems are rapidly expanding beyond visual understanding into capabilities traditionally handl…
Nereus: Adaptive Parallelism for LLM Post-Training
Reinforcement learning (RL) post-training for large language models (LLMs) coordinates multiple models across generation…
豆包输入法大更新,AI 最自然的入口回到了键盘
自己给自己发消息,大概是智能手机普及十余年间,我们为对抗设备壁垒所养成的最普遍、也最无奈的「笨办法」。
手机上看到一段资料,发到「文件传输助手」,再去电脑上复制;电脑里整理好的地址,临出门又发回手机。照片、密码和浏览记录早已习惯跨设备同步,…