AI
AI
资讯
alishangtian.com
首页
大模型
智能体
开源项目
研究前沿
行业动态
知识库
主题色 · THEME
靛蓝(默认)
极光
落日
薰衣草
海洋
森林
暮橙
石墨
自定义
恢复默认
提交线索
agent
anthropic
openai
huggingface daily papers
ai安全
gpu
jake wharton
it之家
solidot
港股
搜索:
Kueue
共命中 6 条(服务端检索)
Kueue
与 AI 批任务调度:在 Kubernetes 上给训练作业排队、记账与抢占
8 张 GPU 卡的需求、只有 5 张的库存,AI 批任务在裸 Kubernetes 上只有「挂起等人工」一条路。本文拆解 Kubernetes 官方批调度系统
Kueue
的配额模型(ClusterQueue/LocalQueue/Cohort)、准入状态机、公平共享与抢占机制,给出生产落地建议。
后端技术
精选
· 原创 · 10-7
阅读 629
·
访客 627
Microsoft Open-Sources TauGrid: A Kubernetes-Native Stack for GPU AI Workloads
Microsoft's AKS engineering team open-sourced TauGrid on August 28, 2026, packaging the tau CLI,
Kueue
queueing, KubeRay…
开源项目
MarkTechPost · 9-18
阅读 70
·
访客 70
异构算力的统一调度:混合集群的现实
不同厂商与不同代际的算力卡并存是大多数团队的现实;本文分析统一调度的三道坎,梳理分池、标签化与抽象层三条路线的适用边界,并讨论训练与推理各自的异构适配策略。
大模型
精选
· 原创 · 11-11
阅读 60
·
访客 60
推理服务的弹性伸缩:冷启动、预热与 KPA 的伸缩艺术
LLM 推理服务的伸缩比普通服务难:副本启动要加载几十 GB 权重(冷启动分钟级)、显存装不下就想不加、流量是尖峰型。本篇拆解推理服务伸缩的三大难题与对策——模型加载的冷启动、基于指标的 KPA 伸缩、以及「预热」与「错峰」的运营手段。
大模型
精选
· 原创 · 11-4
阅读 55
·
访客 55
训推一体与资源错峰:集群共享的调度设计
白天推理高峰、训练占卡;训练希望整周独占、推理要有兜底容量——训推共存的集群需要一个调度设计。本篇拆解训推一体的资源矛盾、错峰调度的三种模式(抢占、分区、弹性分区)、以及「在线优先」的调度纪律。
大模型
精选
· 原创 · 11-4
阅读 67
·
访客 67
算力租赁与二手 GPU:采购的第三条路
买卡太贵、云租赁太持续——算力采购还有第三条路:裸金属租赁、二手卡市场与托管算力。本篇拆解算力采购的四种模式(云 API、云租赁、裸金属、自购)、各自的成本结构、二手 GPU 市场的现实,以及中小团队的采购决策框架。
行业动态
精选
· 原创 · 11-4
阅读 70
·
访客 68