资讯栏目 · CHANNEL

大模型

追踪大模型前沿:新模型与版本发布、能力与成本评测、训练与推理技术进展。

已收录 363 篇 · 持续更新
置顶文章 · 大模型

一篇读懂 PD 分离:Prefill 与 Decode 为什么不再挤在一个 GPU 里

同一块 GPU 上,prefill 是计算受限的短跑冲刺,decode 是带宽受限的长跑——挤在一起互相拖累,一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离:干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单,以及什么时候该拆、什么时候千万别拆。
来源:原创2026-10-24阅读 54·访客 50
阅读全文 →

全部文章

ARCHIVE 共 363 条
Anthropic 发布 Claude Opus 5.5 模型:性能媲美 Fable 5.1,运行成本比 Opus 5 低 40%
IT之家 9 月 23 日消息,Anthropic 今日正式发布了 Claude Opus 5.5 模型,这是其全新 Claude 5.5 家族的首个模型,**宣称在大多数工作上表现可媲美 Claude Fable 5.1,运行成本比 Op…
大模型 IT之家 · 9-23 阅读 44·访客 44
Lawsuit demands OpenAI pay for new school after ChatGPT used in shooting
The families of victims killed in one of the deadliest mass shootings in Canada’s history have already sued OpenAI over …
大模型 Ars Technica · 9-23 阅读 28·访客 28
消息称 DeepSeek 本周参加联合国安理会,讲解 AI 安全风险
IT之家 9 月 22 日消息,据路透社今日援引知情人士消息,中国人工智能初创公司 DeepSeek(深度求索)将在本周参加联合国安理会,**讲解 AI 安全风险**。与此同时,世界各国领导人将齐聚纽约,参加一年一度的联合国大会。 IT之家…
大模型 IT之家 · 9-22 阅读 31·访客 31
PACT: From Credit Assignment to Critic Alignment
Reinforcement learning has become a central component of large language model (LLM) post-training, yet token-level credi…
大模型 HuggingFace Daily Papers · 9-22 阅读 29·访客 29
Disaggregated Quantization: Specializing LLM Prefill and Decode
Prefill and decode reward different approaches to quantization: low-precision arithmetic accelerates prompt processing, …
大模型 HuggingFace Daily Papers · 9-22 阅读 37·访客 36
联合国秘书长古特雷斯呼吁全球监管人工智能,避免出现杀人机器人
IT之家 9 月 22 日消息,据彭博社报道,联合国秘书长进一步呼吁对人工智能实施监管,以避免出现企业权力泛滥、杀人机器人横行的反乌托邦未来。 安东尼奥 · 古特雷斯(Antonio Guterres)在联合国大会上向各国领导人发表卸任前最…
大模型 IT之家 · 9-22 阅读 31·访客 31
Don’t be fooled by this summer of AI hype
It’s been a busy few months for AI hype. At the end of April, Anthropic claimed that its model Claude Mythos is better a…
大模型 MIT Technology Review · 9-22 阅读 50·访客 49
Alibaba Qwen Releases Qwen-Image-2.1: A 7B Open-Weight Model for Image Generation and Editing
Alibaba's Qwen team has released Qwen-Image-2.1, a 7B diffusion transformer that handles text-to-image generation, multi…
大模型 MarkTechPost · 9-22 阅读 52·访客 52
Xiaomi's affordable flagship AI leads the open models, and Anthropic says Claude helped get it there
Sep 22, 2026 Xiaomi Key Points Xiaomi's new MiMo-V2.6-Pro model leads current rankings of open AI models while costing f…
大模型 The Decoder · 9-22 阅读 36·访客 36
Flash-dLLM: IO-Aware KV Caching and Parallel Decoding for Fast, Memory-Efficient Diffusion LLMs
Diffusion Large Language Models (dLLMs) have recently emerged as a promising alternative to autoregressive LLMs by enabl…
大模型 HuggingFace Daily Papers · 9-22 阅读 26·访客 26
后摩智能确认其下代大模型端边 AI 芯片采用 3D CIM 存算一体架构
IT之家 9 月 22 日消息,后摩智能 (HOUMO.AI) 在近日举行的 2026 全球 AI 芯片峰会上确认,该公司**下代大模型端边 AI 芯片将采用 3D CIM 存算一体架构**,结合融合存算与 3D DRAM 技术。 这款新一…
大模型 IT之家 · 9-22 阅读 41·访客 40
拿下 2 亿日活跃用户后,消息称字节跳动豆包收缩对话团队
IT之家 9 月 22 日消息,《晚点 LatePost》今天(22 日)晚间发布消息称,豆包通用 Session 团队正在减员,规模预计减半。该团队此前约有 50 人,**一度是豆包内规模最大的团队**,主要负责豆包的对话(Chat)产品…
大模型 IT之家 · 9-22 阅读 30·访客 30
← 上一页 第 20 / 31 页 · 共 363 条 下一页 →