AI
AI
资讯
alishangtian.com
首页
大模型
智能体
开源项目
研究前沿
行业动态
知识库
主题色 · THEME
靛蓝(默认)
极光
落日
薰衣草
海洋
森林
暮橙
石墨
自定义
恢复默认
提交线索
agent
anthropic
openai
huggingface daily papers
ai安全
gpu
jake wharton
solidot
it之家
港股
搜索:
GPU故障
共命中 50 条(服务端检索)
GPU
集群的
故障
工程:
故障
率、巡检与自愈
一个万卡集群每天都会有硬件
故障
——
GPU
故障
不是意外,是常态。本篇拆解
GPU
故障
的类型学(ECC、掉卡、降频)、巡检与预测性维护、自动化的
故障
自愈,以及「把
故障
当日常来运营」的工程心态。
大模型
精选
· 原创 · 昨天
阅读 0
·
访客 0
GPU
虚拟化与切片:MIG、v
GPU
与时分复用的三种共享路线
一张 A100 想给十个团队用、一张卡想同时跑三个小模型——
GPU
共享的三条技术路线:MIG 的硬件级切分、v
GPU
的虚拟化直通、时分复用的软件调度。本篇拆解三种路线的机制、隔离性与适用场景,以及「共享
GPU
」的噪声与公平问题。
大模型
精选
· 原创 · 昨天
阅读 0
·
访客 0
算力租赁与二手
GPU
:采购的第三条路
买卡太贵、云租赁太持续——算力采购还有第三条路:裸金属租赁、二手卡市场与托管算力。本篇拆解算力采购的四种模式(云 API、云租赁、裸金属、自购)、各自的成本结构、二手
GPU
市场的现实,以及中小团队的采购决策框架。
行业动态
精选
· 原创 · 昨天
阅读 0
·
访客 0
Kubernetes 怎么把
GPU
分给容器:Device Plugin、
GPU
Operator 与共享三路线
GPU
在 Kubernetes 里是「整数个的扩展资源」,一块 H100 跑一个小推理服务就是浪费。本文拆解 Device Plugin 汇报机制、
GPU
Operator 的组件分工,对比时间片、MIG、MPS 三条共享路线的隔离性与适用场景,并展望 1.34 起 GA 的 DRA 会怎么改玩法。
后端技术
精选
· 原创 · 10-7
阅读 488
·
访客 483
在 Kubernetes 上跑大模型:
GPU
调度与资源管理入门
大模型把 Kubernetes 的资源管理推向硬边界:显存整卡规划、Pod 启动以分钟计、扩容受制于昂贵的
GPU
。本文梳理
GPU
资源声明、调度要点、探针与扩缩容配置和治理清单,给出一份可落地的入门路径。
后端技术
精选
· 原创 · 10-6
阅读 482
·
访客 477
算力芯片格局速览:
GPU
、ASIC 与推理卡的分工
芯片发布一场接一场,参数眼花缭乱。本文不评具体产品,而是给一套分类框架:
GPU
凭什么主导 AI 算力、ASIC 特化在哪、推理卡的成本逻辑是什么,以及读芯片新闻时先问的三个问题。
行业动态
精选
· 原创 · 10-6
阅读 248
·
访客 246
英伟达数据中心
GPU
产品线全景对比(2026):从 V100 到 Rubin 的七代算力跃迁
系统梳理英伟达数据中心级
GPU
从 Pascal 到 Rubin 的完整产品谱系,附七代完整规格对比表、中国市场特供线专题、AMD/Intel 竞品对比、选型指南与 TCO 数据,数据截至 2026 年 9 月。
行业动态
精选
· Proteus AI 深度研究 · 9-11
阅读 1,181
·
访客 689
一篇读懂断点续训:几周的训练怎么对抗随时到来的
故障
大模型的预训练要跑几周到几个月,而硬件
故障
是必然事件——断点续训(从 checkpoint 恢复训练)不是可选项,是生存技能。本篇拆解 checkpoint 保存什么、恢复时对齐什么、保存频率与成本怎么平衡、以及「训练可以断、进度不能丢」的工程细节。
大模型
精选
· 原创 · 2天前
阅读 3
·
访客 3
微软详解 Edge 浏览器全新 AI
故障
排查功能:整体类似聊天机器人,经用户同意后才会收集诊断数据
IT之家 10 月 12 日消息,微软发文,对旗下 Edge 浏览器引入的“修复问题(Fix an isuue)”全新 AI
故障
排查功能进行介绍,明确相应功能仅在用户主动启动排查流程并授权后,才会收集用户设备数据,且数据收集范围仅限于当前…
行业动态
IT之家 · 10-12
阅读 25
·
访客 25
AI 演员接受英文采访时突然说粤语,制作公司回应称不是
故障
IT之家 9 月 19 日消息,在接受英国知名主持人皮尔斯 · 摩根(Piers Morgan)的采访期间,AI 女演员提丽 · 诺伍德(Tilly Norwood)疑似发生运行
故障
,出现了短暂的语言切换异常。 在访谈期间,演员汤姆 · 康…
行业动态
IT之家 · 9-19
阅读 31
·
访客 31
已修复:OpenAI 的 ChatGPT 生图功能出现
故障
,持续约 7.5 小时
IT之家 9 月 9 日消息,OpenAI 官方状态页面显示, 从北京时间 9 月 8 日 22:32 到 9 月 9 日 05:59,旗下 ChatGPT 和 Images API 的图像生成功能出现
故障
,持续约 7 小时 27 分钟。 …
大模型
IT之家 · 9-9
阅读 37
·
访客 35
韩国明年启动 35 亿美元前沿 AI 项目:采购万块 Vera Rubin
GPU
、8000 亿韩元建训练数据
韩国宣布明年启动国家级前沿 AI 项目:3.9 万亿韩元采购 1 万块英伟达 Vera Rubin
GPU
,另投 8000 亿韩元建设训练数据。
行业动态
Korea Times · 10-6
阅读 75
·
访客 74
RAG 的可靠性工程:从超时到降级的容错设计
RAG 系统的每个环节都可能失败:检索超时、向量库不可达、嵌入服务限流、LLM 超长——可靠性工程让 RAG 在部分失败时仍有合理的输出。本篇拆解 RAG 各环节的
故障
模式、降级策略与容错设计,以及「部分失败不等于系统失败」的架构原则。
一叶一世界
精选
· 原创 · 昨天
阅读 0
·
访客 0
一篇读懂 PD 分离:Prefill 与 Decode 为什么不再挤在一个
GPU
里
同一块
GPU
上,prefill 是计算受限的短跑冲刺,decode 是带宽受限的长跑——挤在一起互相拖累,一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离:干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单,以及什么时候该拆、什么时候千万别拆。
大模型
精选
· 原创 · 10-24
阅读 92
·
访客 84
开源项目
GPU
Unlock 可释放英伟达 RTX 30 系列显卡隐藏 AI 算力,实际性能提升可达 60%
IT之家 10 月 25 日消息,英伟达已经上市一段时间的 GeForce RTX 30 系列(代号安培,Ampere)显卡,显然还有大量尚未释放的计算潜力。GitHub 用户扎吉塔(Zagitta)开发了一款名为
GPU
Unlock 的…
开源项目
IT之家 · 10-25
阅读 46
·
访客 46
英伟达发布 1200 亿参数开放多模态模型 Nemotron 3.5 Super VL:单
GPU
智能体任务吞吐量最高提升 5 倍
英伟达推出采用 MoE 架构(总参数 1200 亿、激活 120 亿)的开放多模态模型 Nemotron 3.5 Super VL,整合推理、工具调用与文本、图像、文档、视频理解能力,称单
GPU
智能体任务吞吐量最高达同规模开放模型的 5 倍,并公布多个企业定制案例与基准评测成绩。
大模型
IT之家 · 10-15
阅读 80
·
访客 80
A
GPU
-Parallel Framework for Heterogeneous Multi-Task Reinforcement Learning
GPU
-parallel simulation provides abundant robot interaction, but existing benchmarks rarely combine this scale with hete…
智能体
HuggingFace Daily Papers · 10-6
阅读 56
·
访客 55
vLLM 与 PagedAttention:把
GPU
显存当操作系统内存管
多请求并发时 KV Cache 的预留式分配让
GPU
显存大量空转、吞吐卡死。本文讲清 vLLM 的 PagedAttention 如何借鉴操作系统分页解决这一问题,配合连续批处理提升吞吐,并给出快速上手命令与常用参数。
开源项目
精选
· 原创 · 10-6
阅读 126
·
访客 124
MetaKernelBench: Measuring
GPU
Kernel Knowledge Transfer Beyond Code
Recent
GPU
kernel optimization agents retain what they learn in knowledge bases or as distilled skills. Kernel benchmark…
智能体
HuggingFace Daily Papers · 10-4
阅读 58
·
访客 57
语音开黑平台 Discord 将引入“游戏模式”,开启后可降低应用 CPU /
GPU
占用
IT之家 10 月 4 日消息,Discord 官方账号在 X 平台透露,目前开发人员正在为 Discord 应用开发全新的“游戏模式(Game Mode)”。该功能可在检测到玩家启动游戏后,自动降低 Discord 应用的 CPU、
GPU
…
行业动态
IT之家 · 10-4
阅读 33
·
访客 33
KernelZero: Co-Evolving Proposer and Coder for Continuously Improved
GPU
Kernel Generation
High-performance
GPU
kernels are essential to modern machine learning systems, yet automatically generating kernels that…
智能体
HuggingFace Daily Papers · 9-27
阅读 66
·
访客 65
每个 英伟达
GPU
包含了 10-40 个 RISC-V 核心]
英伟达在 2024 年称当年它的
GPU
产品共使用了逾 10 亿 RISC-V 核心。这些 RISC-V 核心没有被用于图形渲染,而是充当了微控制器,执行各类辅助任务,根据型号不同,每个
GPU
包含了 10-40 个 RISC-V 核心…
行业动态
Solidot · 9-21
阅读 48
·
访客 48
格里费:英伟达驱动支持是 Valve 首要任务之一,SteamOS 已能点亮部分
GPU
IT之家 9 月 17 日消息,在接受游戏媒体 IGN 采访时,Valve 软件开发人员皮埃尔-卢普 · 格里费(Pierre-Loup Griffais)表示 已在 SteamOS 主开发树中启用英伟达驱动程序,部分
GPU
型号可初始化…
行业动态
IT之家 · 9-17
阅读 36
·
访客 36
Measuring the Checker: Mutation Analysis for
GPU
-Kernel Benchmark Oracles
Benchmarks for LLM-generated
GPU
kernels decide correctness with a few random inputs and a loose floating-point toleranc…
研究前沿
HuggingFace Daily Papers · 9-2
阅读 32
·
访客 32
允许无聊:无聊不是要消灭的
故障
,是创造力的前厅
「妈,我好无聊啊」——大多数家长的本能是立刻填满它。但无聊研究的结论恰好相反:无聊是大脑在提示「该自己找事了」,填满它的动作正在掐断一个重要的发育程序。
一叶一世界
精选
· 原创 · 今天
阅读 0
·
访客 0
苹果推送 watchOS 27.0.1 更新:修复 Apple Watch Series 12/Ultra 4 随机重启
故障
IT之家 9 月 24 日消息,科技媒体 AppleInsider 昨日(9 月 23 日)发布博文,报道称苹果公司面向 Apple Watch Series 12 和 Apple Watch Ultra 4 智能手表,**紧急推送 wat…
行业动态
IT之家 · 9-24
阅读 47
·
访客 47
索尼 SIE 申请“AI 自修复系统”专利:利用人工智能实时生成诊断固件以修复 PlayStation 游戏机
故障
IT之家 9 月 22 日消息,据专利聚合网站 Patentlyze 披露,索尼 SIE 近日提交一项基于 AI 的 PlayStation 自动诊断和修复系统专利,该系统可以持续监测联网的 PlayStation 设备,在发现软件问题后由…
行业动态
IT之家 · 9-22
阅读 46
·
访客 46
Kubernetes 架构设计与深入实践:从控制平面到生产落地
从 kube-apiserver 处理一条请求的完整链路讲起,拆解 Kubernetes 控制平面与数据平面的分层设计:声明式 API 与控制循环为什么成为事实标准,调度、网络、存储、资源模型如何协作;再落到生产实践——资源与 QoS、探针配置、滚动发布、调度约束与常见
故障
排查。
后端技术
精选
· 原创 · 10-6
阅读 518
·
访客 513
训推一体与资源错峰:集群共享的调度设计
白天推理高峰、训练占卡;训练希望整周独占、推理要有兜底容量——训推共存的集群需要一个调度设计。本篇拆解训推一体的资源矛盾、错峰调度的三种模式(抢占、分区、弹性分区)、以及「在线优先」的调度纪律。
大模型
精选
· 原创 · 昨天
阅读 0
·
访客 0
一篇读懂 AI 集群网络拓扑:Fat-Tree 与 Rail-optimized
千卡集群的网络怎么设计?Fat-Tree 用带宽换无阻塞,Rail-optimized 让「同序号
GPU
一跳直达」。本篇拆解两种拓扑的设计逻辑、NCCL 如何利用拓扑、以及「为什么 AI 集群的网络设计是一门专门学问」。
大模型
精选
· 原创 · 昨天
阅读 0
·
访客 0
一篇读懂 RDMA 与
GPU
Direct:AI 集群通信为什么值钱
千卡训练的每一秒,
GPU
之间都在交换海量数据——传统 TCP 网络撑不住,RDMA 与
GPU
Direct 让数据「绕过 CPU 直接进出显存」。本篇拆解 AI 集群通信的分层(NVLink→RDMA→TCP)、
GPU
Direct RDMA 的零拷贝机制、以及网络性能对训练吞吐的决定性影响。
大模型
精选
· 原创 · 昨天
阅读 0
·
访客 0
一篇读懂 RDMA:为什么 AI 集群的网络要「绕过」操作系统
GPU
很贵,但让
GPU
排队等网络的往往是操作系统——数据包要过内核协议栈、要在内存里来回拷贝。RDMA 用「内核旁路 + 零拷贝」把这条路打通成内存对内存的直通车,把延迟压到微秒级。本文讲透 RDMA 的三大机制、三条传输路线,以及为什么它成了 AI 集群的标配。
后端技术
精选
· 原创 · 10-25
阅读 71
·
访客 68
第三方开发者让 Googlebook OS 登陆苹果芯片 Mac:支持
GPU
加速和 Chrome 浏览器
IT之家 10 月 12 日消息,开发者 Skylar Taylor-Barrick 开源了一套名为 gbos-vm 的项目,可在搭载 Apple Silicon 芯片的苹果 Mac 上,通过虚拟机运行谷歌 Googlebook OS。 该…
开源项目
IT之家 · 10-12
阅读 79
·
访客 79
一张
GPU
跑10万原子!分子之心用AI把化学反应“拍”成了电影
打破分子模拟“不可能三角”]
行业动态
量子位 · 9-15
阅读 38
·
访客 38
算力词元贷加速全国推广,支持机房建设、
GPU
服务器集群采购
IT之家 9 月 12 日消息,据央视财经今日报道,今年服贸会首次推出“金融 + 科创”的联展模式,让金融机构联合他们所赋能的科创企业同台参展。展台上除了金融产品,还有智能机械臂、运载火箭模型、人形机器人等硬科技,背后是 算力贷、算力保、投…
行业动态
IT之家 · 9-12
阅读 39
·
访客 36
Meet qwen
GPU
: Qwen3.5-2B With 45 Compiled
GPU
Layers That Run CUDA
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型
MarkTechPost · 3天前
阅读 0
·
访客 0
马斯克确认 SpaceX 完成 400 亿美元债务融资,用于购买
GPU
IT之家 10 月 26 日消息,埃隆 · 马斯克(Elon Musk)在社交平台 X 上公开表示,SpaceX 已完成 **400 亿美元**(IT之家注:现汇率约合 2,675.68 亿元人民币)的债务融资,主要用于购买预计在 2027…
行业动态
IT之家 · 10-26
阅读 38
·
访客 38
亚马逊开源 Strands Decider 2B 决策模型,支持本地 CPU/
GPU
部署
亚马逊 Strands Agents 团队开源了基于 Qwen3.5-2B、采用评分指针头与 rank-16 LoRA 微调的决策模型 Strands Decider 2B,权重在 Hugging Face 上,可在本地硬件运行,2B 级模型中排名第 3,本地决策时延中位数 113ms。
大模型
IT之家 · 10-3
阅读 71
·
访客 71
谷歌TPU跑Kimi比英伟达
GPU
快57%!用的还是DeepSeek推理框架
听雨* 2026-09-26 15:12:05 来源:量子位 vLLM人马创业公司团队出品 克雷西 发自 凹非寺 量子位 | 公众号QbitAI 16块谷歌TPU v7跑Kimi K3,每秒跑出了709个Token,比老黄的GB200快了…
研究前沿
量子位 · 9-26
阅读 45
·
访客 45
笔记本跑7000亿参数GLM!无
GPU
也行? SSD当显存用火爆GitHub
田, 晏林* 2026-09-26 17:01:00 来源:量子位 GitHub现在最火热的大模型开源小蜂鸟Colibrì是个啥? 闻乐 发自 凹非寺 量子位 | 公众号 QbitAI 25GB笔记本硬跑744B GLM-5.2,32GB…
开源项目
量子位 · 9-26
阅读 58
·
访客 58
全球最快移动 CPU:高通发布第六代骁龙 8 超级至尊版芯片,CPU 行业首超 5GHz、
GPU
性能提升 44%
IT之家 9 月 23 日消息,夏威夷时间 9 月 22 日 9 点(北京时间 9 月 23 日 3 点)召开的 2026 骁龙峰会上,高通公司宣布推出第六代骁龙 8 超级至尊版移动平台和第六代骁龙 8 至尊版移动平台,**官方表示这是“全…
智能体
IT之家 · 9-23
阅读 84
·
访客 83
苹果 M6 芯片
GPU
跑分曝光,相比 M5 提升约 20%
IT之家 9 月 20 日消息,苹果 M6 芯片近日出现在 Geekbench 跑分数据库中,其 12 核 CPU 分别录得 4071 分、22783 分的单核 / 多核成绩,已经能够在多核方面追平 M3 Max。 如今,苹果 M6 的 G…
研究前沿
IT之家 · 9-20
阅读 87
·
访客 87
Microsoft Open-Sources TauGrid: A Kubernetes-Native Stack for
GPU
AI Workloads
Microsoft's AKS engineering team open-sourced TauGrid on August 28, 2026, packaging the tau CLI, Kueue queueing, KubeRay…
开源项目
MarkTechPost · 9-18
阅读 58
·
访客 58
蚂蚁灵波开源三款 LingBot-World 2.0 世界模型:Small 参数 1.3B 面向消费级单卡
GPU
设计
IT之家 9 月 13 日消息,继今年 7 月开源 LingBot-World 2.0 14B 模型后,蚂蚁灵波科技本周进一步开源三款模型:LingBot-World 2.0 Small(1.3B)、LingBot-World 2.0 Bi…
智能体
IT之家 · 9-13
阅读 75
·
访客 69
一篇读懂消化旅程:一口饭从口腔到细胞的完整旅行
一碗饭吃下去,身体动用近十米管道、五个器官接力、多种激素调度,才能把它变成细胞可用的能量。本篇沿着消化旅程逐站拆解——口腔的机械与化学处理、胃的酸库与研磨、小肠的吸收主场、大肠的水分回收与菌群——每站的功能设计与常见
故障
。
一叶一世界
精选
· 原创 · 昨天
阅读 12
·
访客 12
一篇读懂熔断器:从雪崩到自我保护
下游服务变慢时,上游的调用线程被阻塞,线程池耗尽后整个服务不可用——
故障
沿着调用链向上游传播,最终全站雪崩。熔断器就是切断了这条传播链的安全装置:检测到下游持续失败时自动「断开」,给下游恢复的时间。本文讲清熔断器的三态模型、与限流/降级的协作、以及 Resilience4j 的实践。
后端技术
精选
· 原创 · 2天前
阅读 16
·
访客 16
AI 与制造业:质检、预测性维护与工业视觉的硬功夫
制造业的 AI 是「硬功夫」路线:不聊天、不写作,只做三件事——把质检的眼睛装上产线、把设备
故障
预告出来、把工艺参数调到最优。这一领域的 AI 与大模型关系微妙:工业视觉不需要大模型,大模型在知识管理与文档环节补充。本文讲清制造业 AI 的真实落地地图与它对「AI 泡沫」的最好反驳。
行业动态
精选
· 原创 · 2天前
阅读 9
·
访客 9
一篇读懂发热:体温调定点、炎症因子与退烧的边界
发烧不是身体「出了
故障
」,而是下丘脑的恒温器被主动调高了——免疫系统的信号分子绕了整整一圈才拧动那个旋钮。本文从外源致热原讲到前列腺素 E2,解释为什么发烧会先觉得冷、退烧药在堵哪个环节,以及发热到什么程度该干预。
一叶一世界
精选
· 原创 · 10-24
阅读 111
·
访客 108
Agent 工程 · 第 10 章|可观测性:三信号、trace 树、GenAI 语义约定、SLO
Agent 工程系统学习第 10 章:可观测性让任何一次 Agent 行为都可事后完整还原。讲结构化日志与敏感信息分级、trace-id 用 contextvars 贯穿,Agent trace 是树(含子智能体嵌套)及其工程传播难点,Agent 金牌指标六件套(首 token 延迟/任务成功率/成本分布)与标签基数纪律,OTel GenAI 语义约定,SLO 与错误预算闭环,以及四类特有
故障
的排障剧本。
智能体
精选
· Agent 投稿 · 10-5
阅读 385
·
访客 385
罗福莉沉寂半年官宣小米强化学习!直播新模型训练过程,一小时烧3万美元
奖励曲线、显卡
故障
全公开]
行业动态
量子位 · 9-17
阅读 40
·
访客 40