在租卡与云之间，自建 GPU 服务器是小团队的第三条路；本文给出从选件、组装验机到上架接网的完整流程，算清噪音、电费与运维的隐性成本，并划出自建与托管的能力边界。

ZStack 将 GPU 管理平台 GPUWorks 以 Apache 2.0 开源：40+MB 体积、60 秒部署，可管理上千台 GPU 服务器。

服务器关机也能管的秘密在 BMC：这块独立小芯片构成带外管理平面，从 IPMI 到 Redfish 两代接口的演进，远程开关机、挂 ISO 装机、看传感器、刷固件的日常操作，以及必须遵守的安全红线。

Prime Intellect 发布 Prime Inference 推理服务平台，提供无服务器端点和预留 GPU 容量，公开前内部日均处理近万亿 token，主要来自 RL rollout、合成数据生成、评测和长时编码智能体，补全其开源训练栈的服务环节。

IT之家 9 月 16 日消息，The Information 今天（16 日）晚间援引知情人士消息称，苹果公司正筹划推出企业级服务器，采用自研芯片，并可能 接入英伟达的网络设备 。 随着 AI 开发者对苹果电脑的需求不断上升，苹果希望借此…

Yusuf Gundogdu 写道：LibreDB Studio 是一个 MIT 协议的 SQL 客户端，不装在本地而是跑在服务器上，浏览器打开就能用，一条 docker run 就起来。16 个驱动覆盖 42 种数据库，PostgreSQ…

IT之家 9 月 12 日消息，据央视财经今日报道，今年服贸会首次推出“金融 + 科创”的联展模式，让金融机构联合他们所赋能的科创企业同台参展。展台上除了金融产品，还有智能机械臂、运载火箭模型、人形机器人等硬科技，背后是 算力贷、算力保、投…

一张 GPU 同时服务多个模型的现实诉求与技术路线：多实例共享、LoRA 热加载、权重热切换、MIG 硬切分与时分复用各自的隔离与代价，干扰毛刺的成因，以及什么场景值得混部、什么场景不该省这个钱。

GPU 在 Kubernetes 里是「整数个的扩展资源」，一块 H100 跑一个小推理服务就是浪费。本文拆解 Device Plugin 汇报机制、GPU Operator 的组件分工，对比时间片、MIG、MPS 三条共享路线的隔离性与适用场景，并展望 1.34 起 GA 的 DRA 会怎么改玩法。

从引擎到服务的最后一公里——拆解前缀感知路由、cache-aware 负载均衡、LoRA 热加载与模型热切换的生产实现。

LLM 推理服务的伸缩比普通服务难：副本启动要加载几十 GB 权重（冷启动分钟级）、显存装不下就想不加、流量是尖峰型。本篇拆解推理服务伸缩的三大难题与对策——模型加载的冷启动、基于指标的 KPA 伸缩、以及「预热」与「错峰」的运营手段。

「压测一下」在推理服务上远比传统服务复杂：压什么指标（TTFT/吞吐）、怎么模拟真实流量（长度分布）、用什么工具（vLLM benchmark、k6、自研）。本篇拆解推理服务压测的方法论——场景设计、指标采集、瓶颈定位，以及压测报告的正确打开方式。

一套推理服务服务一百个客户：一个客户的高峰不能拖垮别人、每个客户有配额、资源分配要公平——多租户推理的三大课题。本篇拆解推理服务的多租户隔离技术（资源隔离与逻辑隔离）、配额与公平调度、以及噪声治理的工程手段。

服务拆分、注册发现、熔断限流的架构设计要点

推理服务向用户承诺「99.9% 可用、P99 延迟 2 秒」——承诺的背后是一套 SLA 工程：SLO 的定义、错误预算的运营、容量规划的科学。本篇拆解推理服务 SLA 的特有指标（TTFT/TPOT 的分位数）、错误预算的纪律、以及容量规划的三步法。

因代码合并量从日均 2500 次增至超 3 万次，Anthropic 弃用 Git 改用自研的 Scion 版本控制系统，将提交、合并、变基等操作移至服务器端执行，宣称 CPU 与内存消耗仅为 Git 的两百分之一，并需配套定制代码审查、搜索与 CI 工具。

DeepSeek 宣布全面开源支撑 V4.1 Flash 线上服务的内部推理框架 DeepInfer，支持推测解码、分布式推理等能力，兼容英伟达 GPU 与华为昇腾。

在特努斯时代，完成乔布斯的未竟事业 #欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。 ]

视觉语言模型（VLM）的服务化与纯文本模型不同：图像的预处理管线、多模态 KV 的显存压力、请求的异构性（图+文的组合）。本篇拆解多模态推理基础设施的特殊工程点——从请求处理到显存管理到成本核算。

模型每周迭代、服务不能停机——推理服务的「灰度发布」与「模型热更新」有自己的工程形态：蓝绿切换、流量灰度、多模型并存与热加载。本篇拆解推理服务模型迭代的四种模式，以及「切换时 KV Cache 怎么办」这个独有难题。

微服务间的通信问题（重试、熔断、限流、加密、追踪）如果在每个服务中实现，代码重复且侵入。服务网格（Service Mesh）把这些问题下沉到基础设施层——sidecar 代理透明地处理所有网络通信，业务代码零修改。本文讲清 sidecar 模式的原理、Istio 的能力与代价。

微服务架构中，服务 A 要调用服务 B，首先要知道 B 在哪——服务发现（Service Discovery）就是回答这个问题的机制。注册中心的选择（Eureka/Nacos/Consul/etcd）本质上是在 CAP 约束下做取舍。本文讲清服务发现的两种模式、主流注册中心的对比、以及选型的决策框架。

GPU 从下单到真正跑起训练要跨越晶圆产能、整机集成、机柜组装与软件点亮四道门槛；本文拆解交付链的每一环与各角色分工，讲清先通电后完善的行业现象与采购方的里程碑管理方法。

买卡太贵、云租赁太持续——算力采购还有第三条路：裸金属租赁、二手卡市场与托管算力。本篇拆解算力采购的四种模式（云 API、云租赁、裸金属、自购）、各自的成本结构、二手 GPU 市场的现实，以及中小团队的采购决策框架。

一个万卡集群每天都会有硬件故障——GPU 故障不是意外，是常态。本篇拆解 GPU 故障的类型学（ECC、掉卡、降频）、巡检与预测性维护、自动化的故障自愈，以及「把故障当日常来运营」的工程心态。

大模型把 Kubernetes 的资源管理推向硬边界：显存整卡规划、Pod 启动以分钟计、扩容受制于昂贵的 GPU。本文梳理 GPU 资源声明、调度要点、探针与扩缩容配置和治理清单，给出一份可落地的入门路径。

系统梳理英伟达数据中心级 GPU 从 Pascal 到 Rubin 的完整产品谱系，附七代完整规格对比表、中国市场特供线专题、AMD/Intel 竞品对比、选型指南与 TCO 数据，数据截至 2026 年 9 月。

容量规划是把业务增长翻译成 GPU 卡时的算术：从 QPS 与 token 数换算卡数的完整链路，利用率目标的排队论悖论，峰值与均值的错峰策略，采购交付与租赁的组合，以及表格化的滚动规划方法。

当日涨星 920 的开源编码智能体控制面：拆解它「执行留在环境侧」的三层架构、SQLite 事件溯源与意图/副作用分离、跨 provider 的 delta handoff 图模型、五类可复现场景与横向对比，并如实标注默认 Full access 权限、只到 worktree 的隔离与 0.1.x 早期风险。

📱库克现身广州，探班 iPhone 18 Pro 咏春短片拍摄现场 💬曝苹果 iPhone Duo 加单 30%，Pro 系列总订单量不变 ⚡苹果第二期中国清洁能源基金扩容至 2.12 亿美元 🚗四部门拟禁全隐藏式车门把手，要求车企如…

IT之家 9 月 17 日消息，华为全联接大会 2026 于今日在上海启幕。华为副董事长、轮值董事长汪涛在大会上发表了“ 智启新未来，打造智能世界的硅基黑土地 ”的主题演讲，与产业界共同探讨在智能浪潮中如何携手合作，打造强大的 AI 基础设…

集群 GPU 的可观测性从 DCGM 开始：英伟达数据中心 GPU 管理框架的核心指标（利用率、显存、温度、功耗、ECC、XID 错误码），从 exporter 到 Prometheus 与告警的采集链路，以及一组可以直接抄走的告警规则。

模型层被巨头锁死、应用层卷成红海，但 AI 基础设施层（Infra）的创业窗口反而变宽了：GPU 云的转租生意、推理加速的中间件、数据合成的工业化、评测与安全的流水线——四条新窗口各有各的护城河逻辑。

一张 A100 想给十个团队用、一张卡想同时跑三个小模型——GPU 共享的三条技术路线：MIG 的硬件级切分、vGPU 的虚拟化直通、时分复用的软件调度。本篇拆解三种路线的机制、隔离性与适用场景，以及「共享 GPU」的噪声与公平问题。

芯片发布一场接一场，参数眼花缭乱。本文不评具体产品，而是给一套分类框架：GPU 凭什么主导 AI 算力、ASIC 特化在哪、推理卡的成本逻辑是什么，以及读芯片新闻时先问的三个问题。

Together AI 发布 Together Compiler，用 AI 智能体团队自动重写 GPU 代码，开源模型 24 小时内优化、吞吐最高提升 3.7 倍。

计费是大模型服务从「能跑」到「能卖」的分水岭：token 怎么数、输入输出与缓存命中怎么分别计价、用量采集到账单聚合的架构怎么搭、重试幂等与失败边界怎么定，以及多租户配额与成本可见化。

📈苹果第四财季营收增长 12%，服务收入再创新高 💻曝下一代触屏 MacBook Pro 将换新模具 🤖下一代 GPT 或将近期发布，OpenAI 用 1 万个 AI 智能体协作科研 🧠OpenAI 推出电网保护计划，拟让未来园区在…

GitHub 21.6 万星的开放编码智能体一周内经历 2.0 大版本与安全事件双重曝光。本文拆解它的常驻服务端架构、插件热重载内核、Code Mode 与上下文经济设计，并给出五类落地场景。

IT之家 10 月 10 日消息，腾讯元器 10 月 8 日发布《关于元器平台停止服务通知》，因业务调整，元器平台将于 2026 年 11 月 9 日停止服务。在正式停止服务前，用户仍可正常登录并使用现有智能体；停服生效后，所创建智能体将不…

IT之家 9 月 22 日消息，英国消费者权益机构 Citizens Advice 近日呼吁，能源、银行、电话和互联网等提供基本服务的企业在客服工作中应当停止依赖 AI 机器人，保障用户“与真人沟通的权利”。该机构调查发现，超过一半需要使用…

存储是半导体里最典型的周期行业：供给刚性、需求波动、价格三年一个来回。HBM 之外，AI 服务器正拉动大容量 DDR5 与企业级 SSD 两条新曲线，长鑫与长江存储改变国产底盘，周期股与成长股之争决定估值。本篇拆开存储大盘的新旧逻辑。

服务器重启后服务要多久恢复？答案藏在启动链路里：固件（UEFI）→ 引导加载（GRUB）→ 内核初始化 → initramfs 挂根 → PID 1（systemd）拉起服务单元。本文逐段拆解每一步做了什么、什么会慢、什么会失败，讲清 initramfs 的角色、systemd 的并行启动模型与依赖图，以及云服务器特有的 virtio/云初始化环节——「重启依赖」从此有全景图。

服务器不是一台均匀的内存池：NUMA 让跨 socket 内存访问慢 40% 以上，巨页则用 2MB/1GB 页面把 TLB 压力降一个数量级。本文讲清 NUMA 拓扑、本地/远端内存与分配策略（default/bind/preferred/interleave），巨页的两种形态（hugetlbfs 与 THP）、收益与陷阱，并给出 Redis、数据库、JVM 的落地参数。

IT之家 9 月 23 日消息，服务器制造商 Supermicro（超微）当地时间今日宣布，该企业已开始出货 NVIDIA（英伟达）Vera Rubin NVL72 机架系统。 Supermicro 基于 Vera Rubin NVL72 …

IT之家 9 月 22 日消息，在昨日的 2026 人工智能计算大会（AICC2026）上，浪潮信息宣布推出元脑 SD200 Ultra 超节点 AI 服务器与元脑 HC2000 多元算力机组。 据官方介绍，元脑 SD200 Ultra 基…

熔断器篇讲了「自动刹车」，这篇讲「预案体系」：系统过载时的降级阶梯、依赖的隔离、兜底的层次——大促与故障时，「有预案的降级」与「慌乱的宕机」是两种完全不同的体验。

英伟达推出采用 MoE 架构（总参数 1200 亿、激活 120 亿）的开放多模态模型 Nemotron 3.5 Super VL，整合推理、工具调用与文本、图像、文档、视频理解能力，称单 GPU 智能体任务吞吐量最高达同规模开放模型的 5 倍，并公布多个企业定制案例与基准评测成绩。

餐饮酒店是高频、低毛利、重人力的生意，AI 从点餐接口、后厨调度、客流排班与酒店收益管理四处切入；连锁化的标准化诉求决定渗透速度，客单价决定 ROI 敏感度，本文算清这笔落地的经济账。

HTTP 的请求-响应模式无法做到服务端主动推送——客户端轮询是唯一的 workaround，但效率低下。WebSocket 在 HTTP 的基础上升级为全双工通信：一次握手，持久连接，双向实时收发。本文讲清 WebSocket 的握手过程、与 SSE/长轮询的对比、心跳保活与重连机制。