一篇读懂 PD 分离:Prefill 与 Decode 为什么不再挤在一个 GPU 里
同一块 GPU 上,prefill 是计算受限的短跑冲刺,decode 是带宽受限的长跑——挤在一起互相拖累,一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离:干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单,以及什么时候该拆、什么时候千万别拆。
阅读全文 →
全部文章
ARCHIVE 共 363 条智谱启动杭州全城 Coding 计划,个人用户购季卡减免 44%、年卡减免 51%
IT之家 9 月 10 日消息,智谱今天(10 日)通过 Bigmodel 开放平台宣布启动“智谱 · 杭州全城 Coding 计划”,该计划是智谱联合杭州市、上城区推出的城市级 AI 编程普惠行动,全国首创城区级 AI 模型调用支持。 该…
X-AuT: Progressive Audio-Encoder Compression for Speech LLMs with Cross-Scale Distillation
Reducing audio-encoder depth lowers the inference cost of speech large language models, but removing complete blocks per…
Negative Self-Distillation: Learning to Reason by Avoiding Flaws
On-Policy Self-Distillation (OPSD) has emerged as a popular paradigm for large language model (LLM) self-improvement, al…
AGI时代的第一个生图模型,ChatGPT Images 2.5上线
主打生成更快,细节更好,改图也终于越来越像“真·修图”了。]
SkyProduction限免活动第二期:MiniMax H3会员限时免费无限用!
8月28日-9月1日,SkyProduction(天工工作台)联合阿里巴巴通义万相,推出了Wan 3.0模型限时免费活动
OpenAI AI 训练版权纠纷案新细节:GPT-5 可代笔乔治 ·R·R· 马丁撰写《冰与火之歌》
IT之家 9 月 9 日消息,科技媒体 torrentfreak 昨日(9 月 8 日)发布博文,报道称多名图书作者本周向纽约联邦法院提交简易判决动议,要求法官认定 OpenAI 未经许可复制作品,且相关行为不构成合理使用。 这起诉讼可以追…
早报|库克看到华为三星后,推动苹果加速研发折叠屏iPhone/小米中折叠「卖爆了」,首销增长310%/《旅行青蛙・中国之旅》12月8日停运
· DeepSeek 内测 V4.1 Flash · 两部门要求车企定期报告供应商账期,重点企业每年接受评估 · 曝微信 PC 版接入 AI 助手「小微」,可操作聊天与小程序 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更…
美国政府指控中国公司系统性蒸馏美国 AI 模型]
美国国家安全局、联邦调查局及网络安全和基础设施安全局周二发表联合声明,称深度求索(DeepSeek)、月之暗面等六家中国 AI 企业至少从 2024 年起利用“蒸馏”技术,以“工业化规模”访问美国 AI 模型并提取信息。六家企业包括 Dee…
消息称华为 Pura X View、Mate XT 2 非凡大师手机支持端侧本地大模型下载部署
IT之家 9 月 9 日消息,据博主 @超维界 透露,华为 Pura X View、Mate XT 2 非凡大师手机支持端侧本地大模型下载部署,有多模态增强大模型(6GB 左右)和多模态混合专家大模型(15GB 左右)供自主选择下载。 博主…
曝 DeepSeek 已聘请中信证券筹备 IPO 事宜
IT之家 9 月 9 日消息,路透社今日报道称,深度求索 DeepSeek 已聘请中信证券筹备科创板上市事宜,计划于年内启动 IPO 进程。目前具体募资规模与目标估值尚未确定。 深度求索希望通过 IPO 募集资金,扩大算力基础设施建设、加大…
已修复:OpenAI 的 ChatGPT 生图功能出现故障,持续约 7.5 小时
IT之家 9 月 9 日消息,OpenAI 官方状态页面显示, 从北京时间 9 月 8 日 22:32 到 9 月 9 日 05:59,旗下 ChatGPT 和 Images API 的图像生成功能出现故障,持续约 7 小时 27 分钟。 …
京东云宣布与摩尔线程规划建设 10 万卡 AI 工厂
IT之家 9 月 9 日消息,综合新浪科技、第一财经报道,在今日的 2026 京东全球科技探索者大会上,京东集团技术委员会主席、京东云总裁曹鹏公布了京东在算力、数据和模型三大 AI 基建的最新进展。 算力方面, 京东云已与摩尔线程等合作伙伴…