资讯栏目 · CHANNEL

大模型

追踪大模型前沿:新模型与版本发布、能力与成本评测、训练与推理技术进展。

已收录 361 篇 · 持续更新
置顶文章 · 大模型

一篇读懂 PD 分离:Prefill 与 Decode 为什么不再挤在一个 GPU 里

同一块 GPU 上,prefill 是计算受限的短跑冲刺,decode 是带宽受限的长跑——挤在一起互相拖累,一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离:干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单,以及什么时候该拆、什么时候千万别拆。
来源:原创2026-10-24阅读 47·访客 44
阅读全文 →

全部文章

ARCHIVE 共 361 条
Anthropic 举报了与 Claude 聊天中发出威胁的佛罗里达女子]
Anthropic 举报了一名佛罗里达女子,原因是这名女子在与 Claude 聊天中威胁要枪击 Lee 县警长办公室,并在后续聊天中提及自己正在搞一把新枪。该女子在家中被捕,法庭记录显示她于 9 月 30 日受到了一项重罪指控。逮捕报告显示…
大模型 Solidot · 10-6 阅读 24·访客 24
VisionWeave: Weaving Elastic Visual Representations as a Native Capability of MLLMs
Multimodal large language models have become the dominant paradigm for visual understanding, but incur substantial costs…
大模型 HuggingFace Daily Papers · 10-6 阅读 17·访客 17
OpenAI「疯狂28天」首日,这都发了些啥啊…
林, 方舟* 2026-10-06 14:45:40 来源:量子位 林方舟 发自 凹非寺 量子位 | 公众号 QbitAI 事情真的有点荒诞。 赛博义父、Codex负责人Tibo昨天刚说完,接下来的28天里,他们每天要么交付一项Codex…
大模型 量子位 · 10-6 阅读 28·访客 28
Reflection AI 发布开放权重模型 Beam:主打低算力成本,对标开放权重阵营中国模型
Reflection AI 发布开放权重模型 Beam,称效率为西方同类开放模型的 3-4 倍,权重本月放出,瞄准企业与主权 AI 市场。
大模型 TechCrunch · 10-6 阅读 134·访客 134
Stepped MoE: Segment-Level Routing with Configurable Inference Complexity
Training large language models (LLMs) is resource-intensive, and adapting them for diverse deployment scenarios with var…
大模型 HuggingFace Daily Papers · 10-5 阅读 20·访客 20
GPT-6 Astra vs GPT-6.1 Sol vs Gemini 4 Argon vs Claude Fable 5.1: Which Frontier Model Fits Which Job
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型 MarkTechPost · 10-5 阅读 148·访客 145
HuatuoGPT-3: RL-Only Domain Adaptation from Base Models
Domain adaptation aims to turn a general-purpose large language model (LLM) into an expert for a target domain. While th…
大模型 HuggingFace Daily Papers · 10-5 阅读 31·访客 31
Google's new Gemini tiers cut free users to its weakest model and lock $5/month subscribers out of Pro
Oct 4, 2026 Starting in October 2026, Google will restrict access to its Gemini models for personal account users.** Wit…
大模型 The Decoder · 10-4 阅读 60·访客 59
亚马逊开源 Strands Decider 2B 决策模型,支持本地 CPU/GPU 部署
亚马逊 Strands Agents 团队开源了基于 Qwen3.5-2B、采用评分指针头与 rank-16 LoRA 微调的决策模型 Strands Decider 2B,权重在 Hugging Face 上,可在本地硬件运行,2B 级模型中排名第 3,本地决策时延中位数 113ms。
大模型 IT之家 · 10-3 阅读 67·访客 67
IBM 推出 Bob 自托管与物理隔离部署:企业无需迁移代码即可使用智能体软件开发
IBM 宣布其智能体软件开发平台 Bob 的自托管版本正式商用,支持企业在本地、私有云/主权云及物理隔离网络中运行,覆盖代码理解、规划、执行与验证全生命周期。
大模型 MarkTechPost · 10-3 阅读 53·访客 53
Anthropic 为 Claude Code 推出 Mods 插件系统,允许开发者深度定制 AI 编程工具
Anthropic 发布 Mods 系统,开发者可用 JavaScript/TypeScript 函数通过挂钩工具调用、用户提示和 UI 渲染等事件来修改 Claude Code 的外观与功能,部分内置功能如 /diff 命令已用 Mods 实现。
大模型 The Decoder · 10-3 阅读 54·访客 53
AI 视频榜全球第二,藏着一家新影视公司的野心
AI 原生影视公司 Utopai Studios 的自研视频生成模型 Utopai X 在 Artificial Analysis 带音频文生视频盲评榜位列全球第二,是该榜排名最高的美国公司模型,公司模型与平台服务于实际电影和剧集生产流程。
大模型 爱范儿 · 10-3 阅读 51·访客 50
← 上一页 第 11 / 31 页 · 共 361 条 下一页 →