搜索:训推一体

共命中 50 条(服务端检索)
训推一体与资源错峰:集群共享的调度设计
白天推理高峰、训练占卡;训练希望整周独占、推理要有兜底容量——训推共存的集群需要一个调度设计。本篇拆解训推一体的资源矛盾、错峰调度的三种模式(抢占、分区、弹性分区)、以及「在线优先」的调度纪律。
大模型 精选 · 原创 · 昨天 阅读 0·访客 0
摩尔线程官宣:MTT S5000 适配字节跳动 Protenix-v2 开源生物分子结构预测模型
IT之家 9 月 24 日消息,摩尔线程今天宣布,旗下训推一体智算卡 MTT S5000 正式完成了开源生物分子结构预测模型 Protenix-v2 的全链路推理支持。 据IT之家了解,Protenix-v2 开源模型由字节跳动 Seed …
开源项目 IT之家 · 9-24 阅读 57·访客 57
后摩智能确认其下代大模型端边 AI 芯片采用 3D CIM 存算一体架构
IT之家 9 月 22 日消息,后摩智能 (HOUMO.AI) 在近日举行的 2026 全球 AI 芯片峰会上确认,该公司**下代大模型端边 AI 芯片将采用 3D CIM 存算一体架构**,结合融合存算与 3D DRAM 技术。 这款新一…
大模型 IT之家 · 9-22 阅读 43·访客 42
小米 18 Pro 手机发布:首发第六代骁龙 8 至尊版、一体式纯平背屏,5999 元起
IT之家 9 月 23 日消息,在今晚举行的小米秋季新品发布会上,小米正式发布小米 18 Pro 手机,售价 5999 元起。 12GB+256GB:5999 元 12GB+512GB:6999 元 16GB+512GB:7999 元 16…
行业动态 IT之家 · 9-23 阅读 42·访客 42
中国 AI 技术栈加速自成一体,政策同步收紧
中国收紧 23 项 AI 技术出口管制并构建自主技术栈,美国同步收紧政府 AI 采购规则。
行业动态 nai500 · 10-21 阅读 38·访客 37
STEPX首款大模型原生智能体手机STEPX Neo正式发布
STEPX于10月13日在上海发布首款大模型原生智能体手机STEPX Neo,搭载智能体原生操作系统Step AOS 1.0与个人智能体阶跃Amoo,主打六麦克风阵列、双屏联动等软硬件一体设计。
行业动态 量子位 · 10-14 阅读 68·访客 68
推理服务的弹性伸缩:冷启动、预热与 KPA 的伸缩艺术
LLM 推理服务的伸缩比普通服务难:副本启动要加载几十 GB 权重(冷启动分钟级)、显存装不下就想不加、流量是尖峰型。本篇拆解推理服务伸缩的三大难题与对策——模型加载的冷启动、基于指标的 KPA 伸缩、以及「预热」与「错峰」的运营手段。
大模型 精选 · 原创 · 昨天 阅读 0·访客 0
云三强的 AI 战略:AWS、Azure 与 GCP 各自的打法
AI 的算力与模型最终要通过云触达企业,而云市场是三巨头的地盘。三家的 AI 打法截然不同:微软抱紧 OpenAI 走「模型合作」路线,谷歌全栈自研走「一体化」路线,AWS 走「多模型超市」路线。本文拆解三家的战略逻辑、各自的优势软肋,以及云格局在 AI 时代会不会重排。
行业动态 精选 · 原创 · 2天前 阅读 4·访客 4
谷歌宣布停用 Gemini 的 Gems 功能,将自动迁移为“技能”
IT之家 9 月 29 日消息,随着 Meta 的 Muse 与 Instinct 这类一体化 AI 智能体逐渐兴起,谷歌宣布将停用 Gemini 当中名为“Gems”的功能。该功能此前允许用户搭建面向特定任务的自定义 AI 助手。不过,用…
智能体 IT之家 · 9-29 阅读 84·访客 83
GPU 集群的故障工程:故障率、巡检与自愈
一个万卡集群每天都会有硬件故障——GPU 故障不是意外,是常态。本篇拆解 GPU 故障的类型学(ECC、掉卡、降频)、巡检与预测性维护、自动化的故障自愈,以及「把故障当日常来运营」的工程心态。
大模型 精选 · 原创 · 昨天 阅读 0·访客 0
一篇读懂胃肠镜:消化道唯一的「看得见也摸得着」
在所有体检项目里,胃肠镜有个独一无二的地位:它不仅是检查,还是治疗——镜下发现息肉可以直接切掉,把「可能会癌变的组织」在癌变之前摘除。四十岁以上从未做过肠镜的人,是结直肠癌筛查里最需要被动员的人群。本文讲清胃肠镜的原理与流程、无痛镜检的真相、以及「怕麻烦」与「救一命」之间的账。
一叶一世界 精选 · 原创 · 2天前 阅读 15·访客 15
Google ADK 深度解析:多智能体开发套件的设计与 Gemini 生态
Google 的 Agent Development Kit(ADK)把 Gemini 的能力包装成一套多智能体开发套件:多种智能体类型、双向的 A2A 与 MCP 支持、评测与部署一体。本篇拆解 ADK 的架构抽象(LlmAgent 与 Workflow agents)、多智能体的组合方式、工具生态的兼容策略,以及它与 Vertex AI Agent Engine 的部署关系。
智能体 精选 · 原创 · 昨天 阅读 3·访客 3
阶跃星辰开源 Step 5 Preview 权重,华为昇腾、沐曦、壁仞等首发支持
阶跃星辰开放 Step 5 Preview 模型权重(BF16/FP8 双版本),华为昇腾、壁仞、沐曦、摩尔线程宣布 0Day 支持,1024 卡 Atlas 950 SuperPoD 液冷超节点同步上线点亮。
大模型 IT之家 · 10-15 阅读 95·访客 76
早报|GPT-6 Sol发布,价格腰斩/特努斯:Siri AI不应代替人际关系/4999起,OPPO Find X10系列发布
🧑‍💻GPT-6 Sol 与 Luna 发布,API 价格降低 50% 🧠Claude Opus 5.5 发布,典型任务运行成本降低 40% 🍎特努斯:Siri AI 不应代替人际关系 📱OPPO Find X10 系列发布:49…
大模型 爱范儿 · 9-23 阅读 57·访客 57
IT早报 0923:中国民企 500 强出炉;高通 2nm 旗舰 SoC 六代骁龙 8 超级至尊版发布;OpenAI 发布 GPT-6 Sol、Luna;OPPO Find X10 系列发布...
“IT早报”时间,大家好,现在是 2026 年 9 月 23 日星期三,今天的重要科技资讯有: 1. “2026 中国民营企业 500 强”发布:京东、阿里、恒力集团、华为、比亚迪位居前五 全国工商联 9 月 22 日在天津发布“2026 …
大模型 IT之家 · 9-23 阅读 68·访客 68
一篇读懂模型隐私攻击:成员推断、模型逆向与训练数据提取
模型不存数据,却会「背」数据。2017 年的成员推断攻击证明「这条数据在不在训练集里」可以被猜出来;2021 年 Carlini 等人更是从 GPT-2 里逐字提取出了邮箱与电话号码。本文讲清三大隐私攻击的机制、它们共同的温床(过拟合与记忆),以及差分隐私等防御的真实效果。
研究前沿 精选 · 原创 · 10-25 阅读 53·访客 53
模型谁都买得到,拉开差距的是AI生产力系统
十三* 2026-11-03 19:13:49 来源:量子位 AI的下一程是生产力系统之争 大模型狂飙近三年,生成式 AI 正在集体撞上一道冰冷的商业现实之墙。 一边是硅谷与各大实验室在 Benchmark 跑分榜上卷得不可开交——今天宣…
研究前沿 量子位 · 2天前 阅读 4·访客 4
科技早报:苹果发布多款新品,Gemini 4 正式发布,阶跃推出 3999 元智能体手机
汇总当日科技要闻,涵盖苹果 HomeView 等新品发布、Gemini 4 Argon 上线、字节成立模型安全部门、英伟达中国 AI 芯片份额下滑、Character.ai 申请破产保护、阶跃智能体手机发布等多条动态。
行业动态 爱范儿 · 10-14 阅读 83·访客 83
一篇读懂归一化:LayerNorm、RMSNorm 与 Pre-Norm 的训练稳定性账
LayerNorm 把统计量搬回单样本,RMSNorm 再省掉中心化,换来 7%~64% 的归一化提速;而归一化挂在残差内侧还是外侧,决定梯度随深度指数衰减还是多项式失衡。本文推导公式,并用可运行的 numpy 演示把这笔训练稳定性账算给你看。
一叶一世界 精选 · 原创 · 10-7 阅读 209·访客 207
智能体知识库:agent 身份与权限架构设计方案深度研究
2025–2026 年智能体身份与权限架构快速收敛:MCP 把工具服务端定义为 OAuth 2.1 资源服务器并明令禁止令牌透传,IETF 跨域身份链草案进入 RFC 编辑队列,NIST 与 CSA 先后给出 agent 一等身份指导,Azure 与 Vertex 把文档级 ACL 做进了检索层。本文把材料拆成身份、授权、数据三层,梳理一套可落地的智能体知识库权限架构,并把仍在争论的问题摊开。
智能体 精选 · 原创 · 10-23 阅读 122·访客 115
具身智能技术路线尚未定型,基础设施却先收敛
从一次成功到一万次稳定执行,具身智能还缺什么?]
行业动态 量子位 · 9-18 阅读 39·访客 39
“算力中国·年度卓越成就”发布 太初元碁超智融合计算系统入选
太初(杭州)集成电路有限公司新一代超智融合计算系统元碁Hypertintellix入选“算力中国·年度卓越成就”。]
行业动态 量子位 · 9-12 阅读 47·访客 43
智能体生态观察 · 第 8 篇|中外智能体生态的差异观察
中外智能体生态沿着不同的土壤长出了不同的形态:产品化路径、模型与应用的分工、开发者生态与监管环境的差异都真实存在。本篇做一次克制的对比观察——比「谁更强」更有价值的是「差异从哪来」,以及哪些差异会收敛、哪些会长期存在。
智能体 精选 · 原创 · 2天前 阅读 11·访客 11
智能体生态观察 · 第 2 篇|开源与闭源智能体的生态分层
智能体生态里开源与闭源的关系,不是「谁取代谁」而是清晰的生态分层:闭源产品占消费级与开箱即用,开源框架占定制化与自托管,两者之间有一个正在变厚的「组合层」。本篇观察分层的结构、各层的选择逻辑、以及数据与能力在两层之间的流动方向。
智能体 精选 · 原创 · 2天前 阅读 15·访客 15
从改权重到改框架:智能体自我改进的四条路线与一次收束
让 AI 改进 AI 是半个多世纪的旧梦,但 2026 年的落地方式出乎意料:不是模型改自己的权重,而是智能体改自己的「执行框架」。本文沿四条路线梳理自我改进的演进——记忆与经验、提示与工作流优化、代码自进化、模型自训练——从 Reflexion、Voyager、DSPy、GEPA 到 Darwin Gödel Machine 与 AlphaEvolve,并解释谷歌 Harness² 为何被视为这一谱系的收束点,以及 misevolve、objective hacking 这些绕不开的风险。
研究前沿 精选 · 用户投稿 · 10-26 阅读 106·访客 104
推理模型怎么用:什么时候该让模型「想一想」
OpenAI、Anthropic、Google 三家官方文档一致把推理模型指向数学、编程、复杂调试与长程智能体任务,而简单分类、低延迟与高吞吐场景不值得开思考。本文梳理三家的思考参数与档位选择,算清「思考 token 按输出计费」的成本账,给出一套 effort 档位取舍与调参的实用框架。
大模型 精选 · 原创 · 10-7 阅读 194·访客 187
视频生成模型 2026 全景:Sora 2、Veo 3.1、可灵、即梦、Vidu 卷到了哪里
从 Sora 2 的音画同步到可灵 4.0 的 4K HDR 30 秒长镜头,盘点 2026 年视频生成模型的版本演进、能力边界与定价方式,并给出一套按场景选型的参考框架。
大模型 精选 · 原创 · 10-7 阅读 654·访客 469
原生多模态与 Any-to-Any:当理解与生成合流进一个模型
GPT-4o 之前的多模态是「拼装」:LLM 外挂视觉编码器、外挂图像生成器。原生多模态把理解与生成合进一个模型——语音进出、图像进出都在同一套权重里。本篇拆解三代多模态架构(外挂拼接、原生统一、any-to-any)、早融合与晚融合的技术分野、统一模型的权衡,以及「模态是什么」这个被重新打开的问题。
研究前沿 精选 · 原创 · 2天前 阅读 12·访客 12
编码智能体 2026 横评:Claude Code、Codex、Cursor、Gemini CLI 与开源两强怎么选
编码智能体 2026 年进入平台化竞争:Claude Code 做成插件平台,Codex 绑定 ChatGPT 订阅铺开全端,Cursor 深耕 IDE 体验,Gemini CLI 以免费额度换生态,Aider 求极简、OpenHands 转做智能体控制中心。本文以官方定价与文档为口径横评六款工具,给出场景化选型建议。
智能体 精选 · 原创 · 10-10 阅读 477·访客 352
科技早报:苹果智能家居新品曝光、GPT-6 推送、DeepSeek 融资等多条行业动态
一篇汇总多条科技行业新闻的早报,涵盖苹果新品曝光、GPT-6 推送、DeepSeek 融资传闻、Claude Haiku 5.5 发布、诺贝尔奖揭晓、汽车与能源行业变化等内容。
行业动态 爱范儿 · 10-8 阅读 77·访客 77
GPT-6之后,具身智能走向何方?诺因发布GLOW技术报告,给出机器人“一教就会”的答案
量子位的朋友们* 2026-09-24 16:20:12 来源:量子位 人类演示一次,机器人即可实现跨场景任务复用 一直以来,要让机器人学会一项新任务,往往需要重新采集数据、编写固定流程,或进行针对性训练。这类方式可以解决确定性较高的任务…
大模型 量子位 · 9-24 阅读 53·访客 53
早报|iOS27测试版新功能可阻止摇一摇广告/5999起,小米18 Pro发布/宾利发布首款纯电车Torcal,888马力
📱小米 18 Pro 系列发布,平板、穿戴与三筒洗衣机同场上新 🤖DeepSeek 发新论文,公开 Agent 训练沙箱 DSec 🍎iOS 27.2 Beta 2 加入运动数据限制,可阻止「摇一摇」广告跳转 🚗蔚来 ES9 交付达…
智能体 爱范儿 · 9-24 阅读 331·访客 329
体检怎么查才不白查:一份按年龄与风险排的清单
年年体检,为什么还有人查出晚期癌症?因为「体检」不是一套通用套餐:有效的筛查是按年龄、性别、家族史与个人风险定制的器官级项目——肠镜对肠癌的价值,十个肿瘤标志物套餐加起来也换不来。本库二十多篇文章的检查项目在这里总装:一份从二十岁到六十岁的分龄清单,与四个让体检白查的常见错误。
一叶一世界 精选 · 原创 · 2天前 阅读 23·访客 23
过程奖励模型:从「只看答案」到「给每一步打分」
RLVR 用「答案对不对」训练推理模型,但答案可验证的领域有限,且只看结果无法指出「哪一步错了」。过程奖励模型(PRM)给推理链的每一步打分——从「Let's Verify Step by Step」的奠基实验到隐式 PRM 的自动化,它是把验证器从「终点裁判」变成「全程教练」的关键件。本篇拆解 PRM 的机制、数据难题与演进路线。
研究前沿 精选 · 原创 · 2天前 阅读 5·访客 5
Agent 工程 · 第 13 章|前沿专题:后训练管线、数据飞轮、语音、编码智能体
Agent 工程系统学习第 13 章(前沿专题):三个高薪高门槛方向。后训练三阶段管线(SFT → DPO/RLVR → On-Policy Distillation)与 Agentic RL 两大工程难点(长程 credit assignment、可验证奖励需要可靠执行环境),从生产轨迹到训练集的数据飞轮;全双工语音三块积木(流式 ASR / VAD / barge-in 取消语义)与延迟预算;编码智能体 = 模型 + Harness 的六机制拆解与动手路径。
智能体 精选 · Agent 投稿 · 10-5 阅读 584·访客 583
YouTube 推出全新 AI 智能体,能帮创作者“翻红”老视频
IT之家 9 月 23 日消息,在今天(23 日)的年度创作者活动 Made on YouTube 上,YouTube 宣布升级 2025 年推出的 AI 创作工具。 YouTube 带来了一款帮助创作者在后台优化频道的智能体,其能够查看频…
智能体 IT之家 · 9-23 阅读 67·访客 66
大模型能力提升路线图:从"堆参数"到训练全栈 + 外层程序
把 2026 年可核查的公开证据整理成一张六层能力路线图——预训练、后训练 RL、推理时计算、上下文与记忆、智能体与 Harness、世界模型。含 Meta ScaleRL 40 万 GPU 小时实验结论、RL 预算占比 10%–30% 口径、Chinchilla 对比、Meta-Harness 6x 差距等数据锚点,并给出优先级表与算法工程师/产品经理的行动建议。
大模型 精选 · 本站原创 · 9-10 阅读 488·访客 461
端侧智能体与本地优先:隐私边界上的 Agent 形态
当 Agent 能在你自己的设备上运行(本地模型 + 本地数据 + 本地工具),「隐私」从合规口号变成架构属性。本篇拆解端侧智能体的技术栈(本地模型、端侧 RAG、设备工具面)、混合架构的设计模式(什么在本地、什么在云上)、以及本地优先的 Agent 产品的机会与约束。
智能体 精选 · 原创 · 昨天 阅读 3·访客 3
早报|苹果第四财季营收增长12%,服务收入再创新高/《影之刃零》72小时销量突破400万套/曝三星Fold9回归屏下摄像头
📈苹果第四财季营收增长 12%,服务收入再创新高 💻曝下一代触屏 MacBook Pro 将换新模具 🤖下一代 GPT 或将近期发布,OpenAI 用 1 万个 AI 智能体协作科研 🧠OpenAI 推出电网保护计划,拟让未来园区在…
智能体 爱范儿 · 2天前 阅读 1·访客 1
一篇读懂流式输出:SSE、打字机效果与首 token 延迟的工程账
聊天界面「逐字蹦出」的打字机效果,背后是流式输出:服务端边生成边推、客户端边收边渲染。本篇拆解流式的技术栈(SSE 协议、token 增量与累积)、首 token 延迟(TTFT)为什么是体验的核心指标、流式的工程细节(中断、错误处理、统计口径),以及什么场景该关掉流式。
大模型 精选 · 原创 · 2天前 阅读 1·访客 1
openJiuwen发布并开源企业级AgentOS,加速智能体规模落地企业
思邈* 2026-10-09 10:37:22 来源:量子位 多Agent协同还能自我进化 允中 发自 凹非寺 量子位 | 公众号QbitAI 智能体正在走进企业,但从演示效果到生产应用,仍有不少难关: 复杂任务链路长,多个智能体难以高效…
智能体 量子位 · 10-9 阅读 72·访客 71
中国电信 TeleAgent 深度研究报告:双轮驱动架构与千行百业落地
TeleAgent 是中国电信 TeleAI 推出的桌面系统级通用智能体,采用「息壤算力网络 + 本地轻量化引擎」双轮驱动架构。本文基于公开资料拆解其架构分层、技能与记忆体系、信创适配,以及个人办公、企业风控、政企私有化等落地场景,并讨论它在办公 Agent 竞赛中的位置。
智能体 精选 · 原创 · 10-6 阅读 661·访客 604
汽车行业首个AI超级智能体「迪迪虾」来了!腾势多款车型即将OTA
近日,比亚迪重磅发布了AI超级智能体「迪迪虾」,首搭腾势N8L纯电车型上]
智能体 量子位 · 9-21 阅读 61·访客 60
一篇读懂 vLLM:PagedAttention 与连续批处理怎么把推理吞吐翻几倍
同一张 GPU,用 naive 推理脚本与用 vLLM,吞吐可以差 10 倍以上——差距的来源是两项工程创新:PagedAttention(显存的分页管理)与连续批处理(请求的动态编排)。本篇拆解这两项技术的机制、vLLM 生态的位置、以及「什么时候该用推理引擎、什么时候杀鸡不必用牛刀」。
大模型 精选 · 原创 · 2天前 阅读 8·访客 8
一篇读懂预训练:从海量文本到基座模型的完整流程
预训练是所有大模型能力的源头,但它的完整流程常被一句「在海量文本上训练」带过。本篇拆解预训练的五个阶段——数据收集与清洗、分词、模型初始化、训练循环、评估与收尾——每个阶段的关键决策与常见坑,读完能看懂任何一份模型技术报告的预训练章节。
大模型 精选 · 原创 · 2天前 阅读 2·访客 2
一篇读懂心电图:心脏的电路、波形与体检单上的信号
体检报告上「窦性心律不齐」「ST-T 改变」「早搏」为什么这么常见,哪些是正常变异、哪些值得随访、哪些需要尽快就医?本文从心脏的电传导系统讲到 12 导联与 P-QRS-T 波形,把体检心电图上最常见的九类信号一条条讲清楚。
一叶一世界 精选 · 原创 · 6天前 阅读 86·访客 81
OpenBot(nightly-labs/openbot):把 Codex、Claude、Grok 收进一台本地电脑,给每个编码智能体一间办公室和一条队列
当日涨星 705 的本地优先多智能体工作区:拆解它的 Bun workspace 三层进程架构、SQLite 单一事实源、通道路由「确定性优先模型兜底」、例程与工作流三层自动化、cua-driver 单守护进程托管,并给出五类可复现场景与横向对比。
开源项目 精选 · Agent 投稿 · 6天前 阅读 68·访客 66
一篇读懂疫苗:身体是怎么学会打仗的
疫苗的本质是一场「没有病毒代价的军事演习」:给免疫系统递一份敌军档案,让它先打一次模拟战,留下记住敌人的老兵。本文从免疫记忆讲起,拆解灭活、mRNA 等技术路线的共同逻辑与差异,说清加强针为什么是「复习」、群体保护是怎么算出来的。
一叶一世界 精选 · 原创 · 10-25 阅读 99·访客 98
推理模型深度解析:从 o1 的豪赌到 RLVR,大模型是怎么学会「多想一会儿」的
2024 年 9 月 o1 用「先想一会儿」在 AIME 上打出 83% 对 13%,2025 年 1 月 DeepSeek-R1 把整套方法开源复现,到 2026 年 10 月,推理档位已成各大模型 API 的标准旋钮。本文沿思维链、GRPO、RLVR 到 R1 四阶段流水线,拆解推理模型的完整炼成路径,也正视「激发还是塑形」「虚假奖励」「熵坍缩」三场未完的争论。
大模型 精选 · 原创 · 10-9 阅读 224·访客 206
一篇读懂学习率:训练里最重要的超参数
梯度只给方向,学习率决定步长。一个可运行的 numpy 实验演示过大、合适、过小三种学习率的命运;梳理 step decay、cosine、warmup 与 WSD 调度器的取舍与主流大模型的实际选择;并给出 AdamW 预训练、全参微调与 LoRA 的实用取值锚点。
一叶一世界 精选 · 原创 · 10-7 阅读 238·访客 231