资讯栏目 · CHANNEL

大模型

追踪大模型前沿:新模型与版本发布、能力与成本评测、训练与推理技术进展。

已收录 361 篇 · 持续更新
置顶文章 · 大模型

一篇读懂 PD 分离:Prefill 与 Decode 为什么不再挤在一个 GPU 里

同一块 GPU 上,prefill 是计算受限的短跑冲刺,decode 是带宽受限的长跑——挤在一起互相拖累,一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离:干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单,以及什么时候该拆、什么时候千万别拆。
来源:原创2026-10-24阅读 45·访客 43
阅读全文 →

全部文章

ARCHIVE 共 361 条
大模型能力提升路线图:从"堆参数"到训练全栈 + 外层程序
把 2026 年可核查的公开证据整理成一张六层能力路线图——预训练、后训练 RL、推理时计算、上下文与记忆、智能体与 Harness、世界模型。含 Meta ScaleRL 40 万 GPU 小时实验结论、RL 预算占比 10%–30% 口径、Chinchilla 对比、Meta-Harness 6x 差距等数据锚点,并给出优先级表与算法工程师/产品经理的行动建议。
大模型 精选 · 本站原创 · 9-10 阅读 435·访客 411
DeepSeek-R1最大的贡献是什么?
解读 R1 在强化学习范式下的推理能力涌现,及其对开源生态的影响
大模型 精选 · 原创博客 · 3-2 阅读 118·访客 111
大模型工作原理全解析
Tokenizer 的工作机制:BPE 分词、上下文窗口与计费逻辑
大模型 精选 · 原创博客 · 2025-02-26 阅读 123·访客 123
LLM周边一览
大语言模型的基本原理、发展脉络与能力边界总览
大模型 精选 · 原创博客 · 2024-05-25 阅读 124·访客 122
ollama 和 langchain 实现的知识库问答
用 LangChain 搭建 RAG 应用的组件拆解与代码实践
大模型 精选 · 原创博客 · 2024-05-08 阅读 358·访客 358
GPT-2模型微调
从零微调 GPT-2 的完整流程:数据准备、训练与效果评估
大模型 精选 · 原创博客 · 2024-04-26 阅读 506·访客 504
大模型搜索增强生成技术
检索增强生成的核心流程:向量化、检索、重排与生成
大模型 精选 · 原创博客 · 2024-04-09 阅读 167·访客 166
微软发布新一代图像生成模型 MAI Image 2.7,第三方评测仅次于 OpenAI 图像模型
微软发布新一代图像模型 MAI Image 2.7,第三方评测中排名仅次于 OpenAI 的 GPT Image 2.5 Sunburst。
大模型 英为财情 Investing.com · 昨天 阅读 5·访客 5
谷歌发布世界模型 Genie 4:实时生成交互式虚拟环境,首次支持同步音频
谷歌发布新一代世界模型 Genie 4,可根据文字指令实时生成可交互虚拟环境,支持实时音频与用户动态修改场景。
大模型 凤凰网科技 · 昨天 阅读 7·访客 7
Kimi 就会员使用 K3.1 Pro 出现限流等问题致歉,为所有订阅会员进行重置
IT之家 10 月 26 日消息,Kimi 智能助手今日凌晨发文,就近期 K3.1 Pro 使用体验问题进行致歉,并公布了相关补偿。IT之家附官方原文如下: 致用户:关于近期使用体验问题的致歉与补偿 致 Kimi 用户 对于近期 Kimi …
大模型 IT之家 · 3天前 阅读 20·访客 20
Anthropic Claude 被曝绕过付费墙,调取美国佐治亚州选民数据
IT之家 10 月 26 日消息,据 Axios 报道,Anthropic 旗下人工智能模型 Claude **绕过付费墙**(Paywall),在未经人类授权的情况下调取了美国佐治亚州原本对公众(付费)开放的选民数据。 Anthropic…
大模型 IT之家 · 3天前 阅读 19·访客 19
Claude 桌面应用推出新版界面,从草图到上线用时不到 3 周
IT之家 10 月 25 日消息,Anthropic 设计工程师蔡斯 · 麦科伊(Chase McCoy)昨日宣布,Claude 桌面应用已推出全新界面。 IT之家注意到,新版界面由 Claude 帮助设计,从草图到正式上线,整个过程不到 …
大模型 IT之家 · 4天前 阅读 17·访客 17
← 上一页 第 4 / 31 页 · 共 361 条 下一页 →