算力租赁与二手 GPU：采购的第三条路

算力采购的四种模式：光谱与取舍

算力的获取是一条光谱，四档模式。模式一：云 API（模型即服务）——调模型 API（零基建、按 token 付费——本库 MaaS 选型篇）。模式二：云 GPU 租赁（实例级）——按小时租 GPU 实例（AWS/Azure/GCP 或 GPU 云——弹性的标准姿势）。模式三：裸金属/托管算力租赁——按月租整台服务器（专用的 GPU 云：CoreWeave/Vast 类与国内服务商——比大云便宜、比自购灵活）。模式四：自购硬件——买卡自建（成本最低的长期方案、运维全自担）。光谱的规律：越往左越弹性越贵（单位算力）、越往右越便宜越固定——模式的选择由「用量的稳定性」决定：波动大用左、稳定大用右（本库弹性伸缩篇与 FinOps 篇的成本曲线逻辑）。

裸金属租赁：中大型算力的性价比选项

裸金属租赁（dedicated GPU rental）的形态：整台 GPU 服务器的月租（8 卡 H100/H800 服务器、含网络与电力、免运维硬件层）。与云实例的差异：裸金属是物理机（无虚拟化开销、NVLink 完整、网络可控）、按月计价（云按小时）、规格固定（不能弹性变规格）。价格的现实：8 卡 H100 服务器的月租从 1.5 万到 3 万美元不等（云厂商的按小时折算约 2–4 万美元/月——裸金属比大云便宜 20–40%）；国内的 GPU 租赁市场更卷（价格战下的 H800/910B 服务器月租更低，质量参差）。裸金属的适用：用量稳定的中大型负载（月租比按小时省、且需要长时间连续使用——训练任务、稳定的推理集群）、需要 NVLink 完整拓扑（分布式训练的机内通信——虚拟化实例可能破坏 NVLink）。裸金属的风险与尽调：供应商的稳定性（跑路风险、机房的质量）、网络的规格确认（IB 带宽与拓扑——本库 RDMA 篇）、SLA 与故障的条款（坏卡的更换时效）、以及合同期的锁定风险（长约的价格锁定是双刃剑）。

二手 GPU 市场：真实的规模与真实的坑

二手 GPU 市场是真实的：AI 热潮催生了大规模的二手卡流通（矿潮退出的卡、数据中心退役的卡、以及「渠道卡」）。二手卡的现实分层。矿卡：挖矿退役的卡（长期满载运行——显存与供电的寿命存疑）、数据中心退役卡（V100 等上一代——成色好但架构老）、渠道尾货（正规渠道的库存——最可靠）。二手卡的坑清单：翻新与改装（刷 BIOS 冒充新品、显存与散热改装）、寿命的不可知（GPU 的持续高负载寿命衰减——挖矿卡的显存老化）、无保修（大多数二手无原厂保修）、以及来源的法律风险（赃物卡的风险）。二手市场的务实建议：只从可信渠道买（大商家的检测卡、带短保的）、重点检测显存（显存是 GPU 最先衰落的部件——压力测试的工具）、架构太老的不买（V100 之前——软件生态的兼容成本）、以及总量控制（二手卡适合「补量」而非「主力」——主力的可靠性不能赌在二手上）。

采购决策的框架：按负载画像匹配采购模式

采购决策的框架：负载画像决定采购组合。负载的分类：稳定的基线负载（24/7 的推理服务）——自购或长租最划算（边际成本最低）；波动的弹性负载（随流量的伸缩）——云租赁的弹性（按小时付费匹配波动）；实验与短期任务——按小时的云或短租；尖峰——弹性云兜底。组合的采购策略（成熟团队的形态）：自购/长租覆盖基线（成本的底座）+ 云租赁覆盖弹性（波动的缓冲）+ API 兜底尖峰（极致弹性）——三层金字塔的算力采购（本库 FinOps 篇的分层思想在硬件侧的镜像）。以及一个财务视角的提醒：自购的「便宜」是按全生命周期算的（卡价 + 电费 + 机房 + 运维人力 + 折旧 + 故障率——全成本核算才是真实成本，本库电力篇的 PUE 与运维账）；租赁的「贵」买的是弹性与零运维——两种成本的比较要放在同一口径下。采购决策的收束：算力采购没有唯一正确答案，只有「负载画像 × 资金结构 × 运维能力」三个变量下的最优组合——组合会随业务与市场价格动态调整，采购是持续运营而非一次性决策。

算力租赁的进阶：合约谈判与供应商尽调

算力租赁（正文风险）的进阶：合约谈判与供应商尽调——租赁的实际操作面。供应商尽调的清单。硬件的真实规格（卡的型号与真伪验证、NVLink 的实际拓扑——宣传与实际的核对、本库 RDMA 篇的实测验收）、机房的规格（电力冗余、冷却、网络的上联带宽）、运维的 SLA（故障响应的时间、坏卡的更换时效、网络故障的 SLA）、以及供应商的财务与背景（跑路风险——预付长租的供应商尽调尤其重要）。合约的关键条款。价格的锁定与调整（长约的价格保护、电价联动、涨价的触发条件）、SLA 与补偿（本库 SLA 篇的违约补偿）、数据与安全（数据的隔离、退出时的数据清除——数据清除条款是租赁合约的必备）、以及退出条款（提前退出的违约金、迁移的协助义务）。谈判的实用技巧。用竞争压价（多家询价、竞争性谈判——GPU 租赁市场价格波动大，谈判空间真实存在）、以长约换折扣（稳定的需求换价格）、以及试用先行（短租试用验证再谈长约——先用后买是算力租赁的验货方式）。合约谈判的收束：算力租赁的合约，是「基础设施的租约 + 服务的 SLA + 数据的协议」三合一——供应商的尽调清单与合约的条款清单，是租赁的两大护身符；合同签得细，故障时才有据可依。

算力的期货化观察：算力市场的金融化趋势

算力采购（正文四模式）的进阶观察：算力市场的金融化趋势——算力正在变成一种「金融资产」。金融化的信号。长期算力合约的资本化（OpenAI 的算力合同作为融资的抵押——本库算力产业篇的「债务驱动」算力建设：算力合同成了金融工具）、算力期货与市场的讨论（算力的远期价格与交易——「算力即商品」的市场化探索）、以及二级市场（算力合同的转售与转让）。金融化的动因。供需的时间错配（算力的建设周期长（电力、芯片的以年计）、需求爆发快——时间错配催生远期合约）、价格的波动（GPU 价格与算力价格的波动——波动催生风险管理需求）、以及巨额资本的前置（算力建设的资本前置——资本需要回报的确定性）。金融化的风险提示。泡沫的风险（算力合同的过度前置——需求不兑现时的违约潮，本库算力产业篇的泡沫之争）、定价的锚缺失（算力还没有成熟的价格发现机制）、以及技术与需求的快速变化（模型效率的提升可能让算力需求曲线变形——能效提升一倍，需求曲线就重画一次）。金融化观察的收束：算力的金融化是「AI 算力成为战略资源」的必然延伸——它加速了基础设施的建设，也引入了金融周期的风险；看懂算力的金融面，才能看懂 AI 基础设施新闻里的真实信号。

算力租赁的进阶案例：一个训练集群的租赁决策

算力租赁（正文尽调）的实战案例：一个训练集群的租赁决策——从需求到签约的完整过程。需求：一个 3 个月的训练项目、需要 200 卡 H800。选项的评估。选项一：大云按需——每小时 × 200 卡 × 72 天 ≈ 60 万美元（弹性但最贵）。选项二：裸金属租赁——月租 × 25 台 × 3 月 ≈ 45 万美元（便宜 25%、但锁定 3 个月）。选项三：自购——200 卡 ≈ 800 万美元（3 个月用不完折旧——短期项目不适合自购）。选项四：混合——自购 100 卡（长期用）+ 租 100 卡（项目峰值）——长期与短期的混合。决策的分析：项目是短期的（3 个月）→ 自购的折旧不合理；裸金属比大云便宜 25% → 裸金属胜出；但供应商的稳定性要尽调（正文的尽调清单）。签约的关键条款：硬件的规格确认（卡型号、NVLink 拓扑、网络的实测验收——本库 RDMA 篇的验收）、SLA 与补偿（故障的响应与补偿——本库 SLA 篇）、续约与退出（续约的价格、提前退出的条件）。案例的收束：算力租赁的决策，核心是「项目的时长与稳定性」——短期项目租比买合理、长期项目买比租合理；中间地带（3–6 个月）是裸金属的主场——采购的决策框架很简单，难的是供应商的尽调与合约的细节。

算力租赁的进阶话题：多云算力的管理与调度

算力租赁（正文采购）的进阶话题：多云算力的管理与调度——跨多个算力供应商的统一管理。多云算力的现实。供应商的分散（大云、GPU 云、裸金属——算力来源的多元化是常态：没有一家供应商能满足全部需求）、管理工具的缺失（各供应商各有各的管理面板——统一的算力管理是缺失的）。统一管理的方案。统一调度层（Kueue 或自建的调度器——跨供应商的任务分发与调度）、统一的成本面板（各供应商的用量与成本归集——本库 FinOps 篇）、统一的监控（跨供应商的 GPU 指标采集——本库可观测篇）。跨供应商的挑战。网络的互联（不同供应商的网络互通——跨云的网络延迟与带宽是分布式的瓶颈）、模型的分发（同一模型部署到多个供应商——本库模型分发篇）、以及数据的一致性（跨供应商的数据管理）。多云算力的收束：多云算力的管理，是「异构基础设施」的统一调度——它比单云复杂一个维度，但换来的是议价能力、供应保障与故障冗余——多云的管理层，是 AI 基础设施的下一层抽象。

小结

算力采购的光谱四档（API → 云实例 → 裸金属 → 自购），由「用量稳定性」决定位置。裸金属租赁是中大型稳定负载的性价比选项（比大云便宜 20–40%、尽调供应商与网络规格）；二手 GPU 市场真实存在但坑多（矿卡寿命、翻新、无保修——只可补量不可做主力）。成熟团队的采购是三层金字塔：自购/长租保基线、云租赁保弹性、API 兜尖峰——算力采购是持续运营，不是一次性决策。