一篇读懂 PD 分离：Prefill 与 Decode 为什么不再挤在一个 GPU 里
同一块 GPU 上，prefill 是计算受限的短跑冲刺，decode 是带宽受限的长跑——挤在一起互相拖累，一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离：干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单，以及什么时候该拆、什么时候千万别拆。
阅读全文 →
全部文章
ARCHIVE 共 363 条GPT Images 2.5 突发上线！网友的「灵魂画作」一个比一个离谱
过于抽象 #欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。 ]
中国联通与魅族合作发布“小魔方”AI 手机：4 英寸小方屏，主打全语音交互与端云协同
IT之家 9 月 9 日消息，据凤凰网科技报道，中国联通今日发布“小魔方”AI 原生终端。该产品由中国联通与魅族合作研发，搭载云智 OS， 采用 4 英寸小方屏设计，整机重量 99 克 ，主打全语音操控、AI 智能服务、智能通话及端云协同。…
Why Is Video Still So Expensive? A Survey of Inference-Efficiency Mechanisms in Video and Audiovisual LLMs
Video understanding has rapidly evolved toward video large language models (VideoLLMs): systems that couple video repres…
感谢用GPT-6搓3D的！燃烧自己的token换来一次全体重置
Blender也不用学了
ActReview: Rebuttal-Guided Training Data and Rubric Rewards for Actionable Peer Review Generation
As LLMs are increasingly used for pre-submission self-review, there is growing demand for feedback that not only identif…
GPT-6 让 48 个网页验证码失效了，最聪明的 AI 和最笨的人类相遇了
人类的验证码已经拦不住 AI #欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。 ]
GPT-6 发布后，OpenAI 又自曝「外星思维」，AGI 真的来了？
未来刚才来，它从何而来 #欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。
DeepSeek、千问、智谱轮番登场，PC 厂商终于等到了它们的弹药
AMD 想用电脑把昂贵的 AI Token 账单降下来 #欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。
LatentPort: Beyond KV Cache - Cross-Model Transfer of Recurrent Memory in Hybrid Language Models: A 4B-to-9B Hybrid-State Handoff Without Target Prefix Replay
Can one language model hand its live memory to another without the receiver rereading the context? We demonstrate useful…
没自带 Token，就不配上大学了？
这个月生活费是给外卖，还是给大模型？ #欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。
MLLMs Hallucinate when Information Distribution Drifts in Synergy Heads
Multimodal Large Language Models (MLLMs) often struggle with hallucinations, thus hindering their reliable practical app…
GPT-6 突然全量上线，额度重置再+1，全网实测效果太离谱
GPT-6 Astra 的真正野心，是接管人类的电脑 #欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。