资讯栏目 · CHANNEL

大模型

追踪大模型前沿:新模型与版本发布、能力与成本评测、训练与推理技术进展。

已收录 363 篇 · 持续更新
置顶文章 · 大模型

一篇读懂 PD 分离:Prefill 与 Decode 为什么不再挤在一个 GPU 里

同一块 GPU 上,prefill 是计算受限的短跑冲刺,decode 是带宽受限的长跑——挤在一起互相拖累,一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离:干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单,以及什么时候该拆、什么时候千万别拆。
来源:原创2026-10-24阅读 60·访客 54
阅读全文 →

全部文章

ARCHIVE 共 363 条
智谱启动杭州全城 Coding 计划,个人用户购季卡减免 44%、年卡减免 51%
IT之家 9 月 10 日消息,智谱今天(10 日)通过 Bigmodel 开放平台宣布启动“智谱 · 杭州全城 Coding 计划”,该计划是智谱联合杭州市、上城区推出的城市级 AI 编程普惠行动,全国首创城区级 AI 模型调用支持。 该…
大模型 IT之家 · 9-10 阅读 88·访客 80
X-AuT: Progressive Audio-Encoder Compression for Speech LLMs with Cross-Scale Distillation
Reducing audio-encoder depth lowers the inference cost of speech large language models, but removing complete blocks per…
大模型 HuggingFace Daily Papers · 9-10 阅读 38·访客 35
Negative Self-Distillation: Learning to Reason by Avoiding Flaws
On-Policy Self-Distillation (OPSD) has emerged as a popular paradigm for large language model (LLM) self-improvement, al…
大模型 HuggingFace Daily Papers · 9-10 阅读 28·访客 22
AGI时代的第一个生图模型,ChatGPT Images 2.5上线
主打生成更快,细节更好,改图也终于越来越像“真·修图”了。]
大模型 量子位 · 9-10 阅读 35·访客 33
SkyProduction限免活动第二期:MiniMax H3会员限时免费无限用!
8月28日-9月1日,SkyProduction(天工工作台)联合阿里巴巴通义万相,推出了Wan 3.0模型限时免费活动
大模型 量子位 · 9-9 阅读 36·访客 35
OpenAI AI 训练版权纠纷案新细节:GPT-5 可代笔乔治 ·R·R· 马丁撰写《冰与火之歌》
IT之家 9 月 9 日消息,科技媒体 torrentfreak 昨日(9 月 8 日)发布博文,报道称多名图书作者本周向纽约联邦法院提交简易判决动议,要求法官认定 OpenAI 未经许可复制作品,且相关行为不构成合理使用。 这起诉讼可以追…
大模型 IT之家 · 9-9 阅读 33·访客 31
早报|库克看到华为三星后,推动苹果加速研发折叠屏iPhone/小米中折叠「卖爆了」,首销增长310%​/《旅行青蛙・中国之旅》12月8日停运
· DeepSeek 内测 V4.1 Flash · 两部门要求车企定期报告供应商账期,重点企业每年接受评估 · 曝微信 PC 版接入 AI 助手「小微」,可操作聊天与小程序 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更…
大模型 爱范儿 · 9-9 阅读 43·访客 43
美国政府指控中国公司系统性蒸馏美国 AI 模型]
美国国家安全局、联邦调查局及网络安全和基础设施安全局周二发表联合声明,称深度求索(DeepSeek)、月之暗面等六家中国 AI 企业至少从 2024 年起利用“蒸馏”技术,以“工业化规模”访问美国 AI 模型并提取信息。六家企业包括 Dee…
大模型 Solidot · 9-9 阅读 60·访客 47
消息称华为 Pura X View、Mate XT 2 非凡大师手机支持端侧本地大模型下载部署
IT之家 9 月 9 日消息,据博主 @超维界 透露,华为 Pura X View、Mate XT 2 非凡大师手机支持端侧本地大模型下载部署,有多模态增强大模型(6GB 左右)和多模态混合专家大模型(15GB 左右)供自主选择下载。 博主…
大模型 IT之家 · 9-9 阅读 40·访客 36
曝 DeepSeek 已聘请中信证券筹备 IPO 事宜
IT之家 9 月 9 日消息,路透社今日报道称,深度求索 DeepSeek 已聘请中信证券筹备科创板上市事宜,计划于年内启动 IPO 进程。目前具体募资规模与目标估值尚未确定。 深度求索希望通过 IPO 募集资金,扩大算力基础设施建设、加大…
大模型 IT之家 · 9-9 阅读 37·访客 36
已修复:OpenAI 的 ChatGPT 生图功能出现故障,持续约 7.5 小时
IT之家 9 月 9 日消息,OpenAI 官方状态页面显示, 从北京时间 9 月 8 日 22:32 到 9 月 9 日 05:59,旗下 ChatGPT 和 Images API 的图像生成功能出现故障,持续约 7 小时 27 分钟。 …
大模型 IT之家 · 9-9 阅读 36·访客 34
京东云宣布与摩尔线程规划建设 10 万卡 AI 工厂
IT之家 9 月 9 日消息,综合新浪科技、第一财经报道,在今日的 2026 京东全球科技探索者大会上,京东集团技术委员会主席、京东云总裁曹鹏公布了京东在算力、数据和模型三大 AI 基建的最新进展。 算力方面, 京东云已与摩尔线程等合作伙伴…
大模型 IT之家 · 9-9 阅读 31·访客 30
← 上一页 第 28 / 31 页 · 共 363 条 下一页 →