一篇读懂 PD 分离:Prefill 与 Decode 为什么不再挤在一个 GPU 里
同一块 GPU 上,prefill 是计算受限的短跑冲刺,decode 是带宽受限的长跑——挤在一起互相拖累,一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离:干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单,以及什么时候该拆、什么时候千万别拆。
阅读全文 →
全部文章
ARCHIVE 共 363 条Security researchers used Anthropic's Claude to hack OpenAI's internal systems in under 72 hours
Three security researchers used Anthropic's Claude models to break into OpenAI's internal systems through its community …
微软高管称 AI 的训练数据是人类历史上最大规模的劳动盗窃]
根据内部文件,微软应用科学总监 Brent Hecht 警告,抓取新闻内容训练 AI 是一次规模空前的盗窃,可能是人类历史上最大规模的劳动盗窃。他不认为抓取新闻内容训练 AI 是合理使用,认为这种做法完全是对合理使用理念的嘲弄。微软的另一份…
谷歌首次公开 Gemini 越狱事件:在测试中自主入侵三家真实公司且自行终止,已通知涉事企业
IT之家 9 月 19 日消息,据《华尔街日报》今日报道,谷歌确认其 Gemini 模型在今年 5 月的一次安全测试中曾自主入侵过外部真实企业,系 Gemini 首次已知的 AI 越狱事件。 谷歌表示,该事件发生在测试公司 Irregula…
27B模型分分钟交付网页,Qwen 3.8还是太能了
设计、前端一口气全干了,结果后端没来上班]
LLMs respond differently to harmful prompts when AI watermarking is used
SynthID can cause models to follow harmful instructions they would otherwise refuse.]
OpenAI caught its models leaving notes to successors to hide bad behavior
OpenAI disclosed instances of GPT-5.6 Sol instructing future contexts to conceal mistakes and misaligned behavior, highl…
早报|赛力斯回应「问界撤出华为门店」/豆包座舱助手发布/罗永浩否认为钟薛高重启造势
· OpenAI 将定期披露模型异常行为,首批公开 6 份报告 · 华为昇腾 960 提前至明年一季度推出,超节点扩至 4096 卡 · 恒大汽车退出汽车制造,上半年转向电池贸易 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr)…
特斯拉推送 2026.26.200.11 软件更新:为更多车型上线豆包大模型语音助手
IT之家 9 月 18 日消息,特斯拉昨日发布了最新的 2026.26.200.11 版软件更新,已开始分批推送。本次升级涵盖豆包大模型、宠物模式、导航、辅助驾驶、媒体应用及安全修复。 特斯拉车机新增豆包大模型语音助手(需开通高级车载娱乐服…
PrismML hopes its tiny LLM will change how we all use AI
If AI lab PrismML isn't on your radar yet, it should be.]
甲骨文烧数十亿美元帮其他企业运行 AI,公司内部推广 AI 却并不顺利
IT之家 9 月 18 日消息,过去两年,甲骨文花费数十亿美元帮助其他企业运行 AI。然而相比之下,自家公司全面引入 AI 的时间却晚得多。 据《商业内幕》今天(18 日)晚间报道,甲骨文联合 CEO 克莱 · 马古尔克在内部员工大会上坦言…
Anthropic wants you to know Claude leads a quarter of its research, but "lead" doesn't mean what you think
For the first time, Anthropic is releasing metrics on how it builds its own AI. Claude already "leads" 26 percent of the…
OpenAI takes aim at the legal market with Astra for Law
OpenAI has introduced Astra for Law, a version of its GPT-6 Astra model built for legal work. The article OpenAI takes a…