一篇读懂 PD 分离:Prefill 与 Decode 为什么不再挤在一个 GPU 里
同一块 GPU 上,prefill 是计算受限的短跑冲刺,decode 是带宽受限的长跑——挤在一起互相拖累,一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离:干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单,以及什么时候该拆、什么时候千万别拆。
阅读全文 →
全部文章
ARCHIVE 共 363 条博通 CEO 陈福阳回应 AI 放缓担忧:算力需求仍强劲,长期收入目标不变
IT之家 9 月 15 日消息,博通(Broadcom)首席执行官陈福阳(Hock Tan)于当地时间周一回应了市场担忧。针对前沿 AI 模型开发节奏有可能放缓会对这家芯片厂商业务造成冲击的疑问,他在接受 CNBC 采访时表态,公司仍维持长…
华为监事会主席郭平:虚心向苹果学习供应链,在 ICT 及计算领域的目标是成为英伟达
9 月 15 日晚间消息,近日,华为心声社区对外披露了华为监事会主席郭平与新员工座谈纪要。在与新员工的沟通中,郭平回应了手机业务与苹果对比、车 BU 发展、大模型战略、半导体业务方向等话题。 谈超越苹果:专注做好自身,虚心向苹果学习 被问及…
Decoy Direction Optimization: A Post-Hoc Defense Against LLM Abliteration
Safety guardrails in open-weight language models can be readily bypassed using Refusal Feature Ablation (RFA), a techniq…
早报|iPhone 18 Pro首批售罄,发货延至10月/OpenAI放弃今年上市/罗永浩评价野人先生冰淇淋「难吃」
· 集邦咨询预计 iPhone Duo 今年出货 500 万台,占折叠屏市场近四分之一 · Kimi K2.8 Preview 全量上线,所有会员开放 100 万上下文 · Grok 4.7 延期,马斯克称模型会在难题上过早放弃 #欢迎关注…
律师在谋杀案中捏造了证词,他将此归咎于 ChatGPT]
律师在法律文件中使用 AI 工具捏造不存在的信息不是什么大新闻,AI 捏造的通常是不存在的案例,然而本案的特殊之处在于 AI 捏造了证词。律师 Stephen Aaron 在一起谋杀案中代表其客户提起上诉,在递交的法律文件中包含了捏造的警方…
微软宣布将 xAI 旗下 Grok 模型整合进 Office 三件套,为用户提供 OpenAI 以外模型选择
IT之家 9 月 14 日消息,微软去年开始逐步放弃 Microsoft 365 Copilot 仅使用 OpenAI 模型的策略,先后将 Anthropic 的 Claude 模型引入 Researcher、Copilot Studio …
新豆包手机助手首发体验,智能手机正在变成「行动终端」
真正的 AI 手机,应该是「行动终端」 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。 ]
Pick Your Poison: Learning to Select Poison Sets for Stronger LLM Backdoor Attacks
Backdoor poisoning attacks add poisoned examples to otherwise-clean finetuning data, pairing a trigger with a target beh…
IT早报 0913:央视探访无堂食外卖后厨看到店员徒手抓烤鸡;全国多所高校买商品房当学生宿舍;DeepSeek 灰度测试 AI 语音对话;“支付宝假 App”上热搜...
“IT早报”时间,大家好,现在是 2026 年 9 月 13 日星期日,今天的重要科技资讯有: 1. 外卖新规实施三个月,央视探访看到店员徒手抓烤鸡、明厨亮灶摄像头对着天花板 今年 6 月 1 日起,《网络餐饮服务经营者落实食品安全主体责任…
AI数学的最后一道高墙,塌了!GPT-6 Astra刷穿FrontierMath Tier 4
FrontierMath Tier 4,饱和了]
Kimi突发K2.8:性能逼近K3,百万上下文全员开放
冲刺港股IPO]
创维数字:与谷歌签署智能家居合作协议,首批产品覆盖欧洲 14 国
IT之家 9 月 12 日消息,创维数字 9 月 11 日在业绩说明会上表示,近日,公司与 Google Asia PacificPte. Ltd 正式签署《智能家居合作协议》。 IT之家从官方介绍获悉,该公司作为 Google 授权的智能…