资讯栏目 · CHANNEL

大模型

追踪大模型前沿:新模型与版本发布、能力与成本评测、训练与推理技术进展。

已收录 361 篇 · 持续更新
置顶文章 · 大模型

一篇读懂 PD 分离:Prefill 与 Decode 为什么不再挤在一个 GPU 里

同一块 GPU 上,prefill 是计算受限的短跑冲刺,decode 是带宽受限的长跑——挤在一起互相拖累,一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离:干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单,以及什么时候该拆、什么时候千万别拆。
来源:原创2026-10-24阅读 47·访客 44
阅读全文 →

全部文章

ARCHIVE 共 361 条
Anthropic 拟斥资 1 亿美元培训万名工程师,破解企业 AI 落地“人才荒”
IT之家 10 月 3 日消息,Anthropic 计划投入 1 亿美元(IT之家注:现汇率约合 6.71 亿元人民币)培训 1 万名工程师,帮助企业把 AI 项目从构想真正推进到业务应用。 当地时间 2 日,Anthropic 宣布推出 …
大模型 IT之家 · 10-3 阅读 61·访客 61
开源工具 BootLoops 借助语言模型进行精确科学计算
哈佛物理学家 Matthew Schwartz 开源了 BootLoops 框架,用语言模型开展跨学科科学计算,三个月内与 19 位合作者产出 36 篇涵盖 18 个领域的手稿,同时强调模型易过早宣告成功、需人工验证。
大模型 The Decoder · 10-3 阅读 41·访客 41
Don’t be fooled—LLMs don’t reason
On an afternoon in Seoul in March 2016, I watched a program I helped build put a stone on the fifth line of a Go board i…
大模型 MIT Technology Review · 10-2 阅读 53·访客 50
The Download: a biological de-aging contest and why LLMs don’t reason
This is today's edition of* *The Download*,*our weekday newsletter that provides a daily dose of what's going on in the …
大模型 MIT Technology Review · 10-2 阅读 45·访客 41
Cross-Lingual Alignment for Decoder-Only Models using MoE Routers
Cross-lingual contrastive learning has been a core component of multilingual encoder training, but the ability to explic…
大模型 HuggingFace Daily Papers · 10-2 阅读 21·访客 21
How NVIDIA GPUs Help Accelerate OpenAI’s GPT-6 Astra Ultrafast
GPT-6 Astra Ultrafast, running on NVIDIA Blackwell GPUs, is available now in the OpenAI API and to eligible ChatGPT Work…
大模型 NVIDIA Blog · 10-2 阅读 38·访客 38
TerraVis: Towards Evaluation of World-Grounded Visual Consistency in Text-to-Image Generation via MLLM Workflows
Recent text-to-image models have made substantial progress in photorealism, aesthetics, and text-image alignment. Yet vi…
大模型 HuggingFace Daily Papers · 10-2 阅读 11·访客 11
谷歌Gemini 4突然发布!RSI加持,GPT和Opus都让让
鹭羽* 2026-10-01 23:02:14 来源:量子位 价格只有Astra一半 鹭羽 发自 凹非寺 量子位 | 公众号QbitAI 哎呦喂,谷歌终于也是蹬起来了。。。 假期第一天,谷歌携**Gemini 4 Argon**空降多榜单…
大模型 量子位 · 10-1 阅读 38·访客 38
Google DeepMind Unveils Gemini 4 Argon with 1M Output Tokens for Coding, Knowledge Work and Cyber Defense
Google DeepMind has just announced Gemini 4 Argon, its new frontier model and the first model of the Gemini 4 generation…
大模型 MarkTechPost · 10-1 阅读 53·访客 53
Generalization Is Stability, Not Accuracy: Multi-Axis Evaluation of LLMs
Generalization in large language models (LLMs) is the ability to produce consistent and semantically stable outputs when…
大模型 HuggingFace Daily Papers · 10-1 阅读 18·访客 18
OneStreamer: Unifying Perception, Memory, and Proactive Response in Streaming Video Interaction
Streaming video LLMs must retain evidence before its relevance to future tasks is known and respond when sufficient evid…
大模型 HuggingFace Daily Papers · 10-1 阅读 30·访客 30
Google 发布 Gemini 4 Argon:时隔八个月的旗舰更新,主打长周期深度推理、编程与网络防御
Google 发布 Gemini 4 系列首个旗舰模型 Argon,主打长周期深度推理,聚焦真实场景编程、企业知识工作与网络防御。
大模型 Google Blog · 10-1 阅读 83·访客 83
← 上一页 第 12 / 31 页 · 共 361 条 下一页 →