智能体的成本经济学：token 消耗模型与商业可持续性

智能体的成本经济学：token 消耗模型与商业可持续性

智能体产品的成本问题，本质上不是"模型贵不贵"的问题，而是"循环放大"的问题。过去两年模型单价持续跳水——主流旗舰模型输入价格已降至每百万 token 两三美元的量级，小型模型低一个数量级——但智能体产品的成本压力反而在增大，原因是 agent 的运行方式天然把 token 消耗放大了一个数量级。很多团队在 demo 阶段算的账与上线后的真实账单相差一个数量级，最后发现烧钱的大头不是模型单价，而是循环次数、上下文重复与未被缓存的前缀。

这篇文章从工程视角拆解智能体的成本结构：一次任务的钱花在哪里、消耗模型长什么样、降本的杠杆按什么顺序拉、以及从单位经济学角度怎么看商业模式能不能跑通。

一次真实任务的账单拆解

先看一个有代表性的案例。一个基于旗舰模型的编码修复智能体，任务是修复一个后端服务的缺陷：读代码库、定位、改代码、跑测试、提交。整个过程跑了 12 轮主循环，每轮都把完整历史重新发给模型——这是当前主流 agent 运行时的工作方式，无状态 API 要求每轮重发全部上下文。最终账单：输入侧累计消耗约 48 万 token，输出侧约 1.2 万 token，外加 40 次工具调用（本地执行不计费）。原始任务本身的"信息量"可能只有几千 token，实际消耗放大了几十倍。

这个案例暴露了三个结构性事实。第一，输入输出严重倒挂：input 与 output 的消耗比达到 40 比 1，这和聊天场景完全相反（聊天里 output 占比通常高得多）。而当前主流定价里输入单价是输出的五分之一到三分之一，agent 场景的成本重心因此落在输入侧，优化输入的优先级高于优化输出。第二，消耗随轮次复利增长：第 n 轮的输入约等于基础上下文加上 n 份历史增量，历史是持续累积的，所以同样的任务跑 30 轮比跑 10 轮的成本不是三倍而是可能八到十倍。第三，最大的成本项是可以被缓存的重复内容：每轮重发的内容里有八成以上与上一轮完全相同（system prompt、工具定义、早期历史），这部分理论上都能走缓存折扣。

消耗模型：放大系数与成本曲线

把上面案例一般化，可以得到一个实用的消耗模型。定义放大系数 K 为任务实际总 token 消耗与"任务最小信息量"之比，行业经验值：单轮 RAG 问答的 K 在 5 到 20 之间（检索回来的噪声占大头），多轮工具型智能体的 K 在 30 到 100 之间，长程编码或研究型任务可以到数百。K 的两个主要驱动因子是轮次数量与上下文增长斜率——每轮新增多少 token（工具结果的大小决定斜率）比轮次本身影响更大。

成本曲线因此呈现出对轮次的高度敏感。用旗舰模型输入 3 美元每百万 token 的价格粗算上面那个案例：48 万输入 token 原价约 1.44 美元，输出 1.2 万 token 约 0.18 美元，单任务成本 1.6 美元上下。如果不做任何缓存设计，一个日活一万、人均五个任务的智能体产品，每天模型成本就是八万美元——这个数字足以否掉绝大多数商业计划。而如果缓存命中率达到八成（后面会讲怎么做到），成本直接掉到两三千美元，商业模型才成立。同样的消耗模型换个便宜十倍的小模型，数字上就完全可行，但能力下降带来的任务失败率上升又会吃掉节省——成本与质量之间的这个跷跷板，是智能体产品最核心的经济权衡。

flowchart LR
    T["一次智能体任务"] --> L["主循环 N 轮"]
    L --> A["每轮输入 = 基础上下文 + 全量历史"]
    A --> I["输入侧成本<br/>占比约九成"]
    A --> O["输出侧成本<br/>单价三到五倍"]
    A --> TC["工具执行<br/>通常不计费"]
    I --> CB{"是否有缓存设计"}
    CB -->|"命中八成"| C1["成本降为两成左右"]
    CB -->|"无缓存"| C2["原价全额计费"]
    C1 & C2 --> R["路由小模型<br/>再降五到八成"]
    R --> M["单任务成本决定商业模型成立与否"]

降本三板斧：缓存、路由、批处理

按投入产出比排序，降本的第一杠杆是提示缓存。原理是服务端复用相同前缀的 KV 状态：Anthropic 的实现里缓存命中的输入按 0.1 倍计价（写入时加收 25%），官方口径是最高可省九成成本、显著降低首 token 延迟；OpenAI 的缓存自动生效，命中部分半价；DeepSeek 的缓存命中同样按约十分之一计价，它的低价口碑有一半来自激进的缓存设计。要吃到缓存红利，提示结构必须刻意设计：system prompt 放最前且保持字节级稳定，工具定义紧跟其后，少变动的参考资料在中段，动态内容（当前轮次、工具结果）放尾部，前缀一旦变动缓存全部失效——把时间戳插进 system prompt 这种细节就能让缓存命中率从九成掉到零，这是真实发生过的事故。

第二杠杆是模型路由。任务分级后把简单请求导向小模型：意图分类、格式转换、摘要提炼用小型模型，只有复杂推理和多步规划才动用旗舰。实现上可以用规则先分流，再上一个便宜模型做复杂度打分。业界普遍报告路由能砍掉三到六成成本，关键在于分级标准的校准——分级错误会把高难度任务送进小模型，失败重试反而更贵，所以路由本身要有"升级逃生通道"（小模型输出置信度低时自动升级重跑）。

第三杠杆是批处理。OpenAI 与 Anthropic 的 Batch API 都对离线任务半价，代价是 24 小时内完成。凡是能异步的任务（历史数据回填、批量评测、夜间报告生成）都应该走批处理通道。三招叠加的典型效果：缓存省七到九成的输入成本，路由再省三到六成剩余部分，批处理覆盖离线场景——综合下来，相对裸奔方案省出一个数量级是完全现实的。

商业可持续性：毛利与定价陷阱

成本优化的终局问题是商业模式能不能跑通。传统 SaaS 毛利 80% 到 90%，而智能体产品的毛利结构脆弱得多：API 直连成本叠加后，不做优化的产品毛利可能只有三到五成。定价模式上，按量计费（把模型成本转嫁给用户加成）是安全但劝退的；订阅制体验好但有系统性风险——重度用户的人均成本可以是普通用户的几十倍。

这个行业已经交过学费：2025 年年中，某主流 AI 编程产品因统一订阅被重度用户高频使用，成本失控后紧急改为用量上限加按需购买，引发大量用户投诉。教训很清晰：订阅制必须配套内部配额与降级机制（超额后切换小模型、限制并发、拉长队列），否则增长越快死得越快。另一个容易被忽视的指标是单任务成本方差：智能体任务的随机性意味着同样任务成本可能差十倍（顺利 3 轮完成 vs 卡死 30 轮），成本监控必须做到任务粒度并配预算熔断——单任务消耗超阈值直接终止并降级，这应该和监控内存泄漏一样成为默认工程配置。

成本结构的产品分化与自建盈亏平衡

放大系数这个模型还能解释一个行业现象：不同品类的智能体产品，成本画像差异大到决定定价模式。轻量聊天与 RAG 问答型产品，单次交互成本在千分之一到一美分之间，成本敏感度低，按订阅打包毫无压力；通用编码智能体单任务五毛到五美元，必须做任务粒度的预算管理；深度研究型智能体单任务可以到几美元甚至几十美元——几十次工具调用、多路子智能体扇出、推理模型的思考 token 叠加在一起，这类产品只能按任务计费或用订阅配额硬约束。一个实用的分界线：单次成本低于一美分的产品按订阅打包，高于一美元的按用量计费，中间地带用混合模式。定价模式选错位置，产品要么贵得没人用，要么便宜得不可持续。

模型降价与总成本的关系也值得单独说。过去两年旗舰模型输入价格确实降了一个数量级，但多数智能体产品的总成本不降反升——能力越强，用户越愿意把更长的任务交给它，轮次数量与上下文规模的增长吃掉了降价红利，这就是智能体场景的杰文斯悖论。它给工程团队的启示是：成本指标要锚定"单位任务成本"而不是"单 token 成本"，后者会给你进步的幻觉。

自建与 API 的盈亏平衡是绕不开的决策。开源权重模型（DeepSeek、Llama、Qwen 系列）加上自有 GPU 集群，在规模化之后有真实的成本优势：粗算月消耗超过数十亿 token、且团队具备 GPU 运维能力时，自建综合成本可比 API 直连低三到五成，同时换来吞吐保障、数据私有与模型可定制三项战略能力。低于这个量级，API 加缓存折扣通常更划算，自建的固定成本摊不下来。更务实的中间态是混合策略：稳态流量走自建集群把边际成本压低，峰值溢出走 API 弹性承接，路由层按成本与容量动态分配。

预算治理要把三道闸都装上。任务级预算：任务启动时分配 token 预算，逐轮扣减，逼近上限触发降级——切换小模型、强制要求收敛输出、或直接终止并输出已完成的部分结论；用户级配额：日限额加超额告警，防止单用户异常使用击穿成本模型；功能级归因：按功能线统计成本收益比，砍掉"成本高留存低"的功能时要有数据撑腰。三道闸的本质是把成本从"月度复盘的惊吓"变成"运行时的约束条件"，这也是智能体基础设施成熟度的标志之一。

最后是时间维度上的押注。推理成本按年五到八成的斜率下降，意味着今天不经济的深度任务（全库代码审计、数百页文档的交叉分析）在一年半载后可能成为主力功能。架构上要为成本下降后的能力升级预留接口：任务预算参数化、模型可替换、工具链与模型解耦。成本经济学不只是省钱的学问，更是产品路线图的隐形输入。

小结

智能体的成本经济学核心是循环放大：放大系数三十到一百倍的多轮消耗结构让成本重心压在输入侧，也让缓存设计成为第一杠杆——稳定前缀配合 0.1 倍的缓存折扣，是当前投入产出比最高的单项优化。路由与批处理再各砍三到六成，三板斧叠加能把账单压缩一个数量级，从而决定一个智能体产品的商业模型是否成立。定价侧的教训同样明确：订阅制必须配内部配额与降级机制，任务粒度的成本监控与预算熔断应成为默认工程配置。成本优化不是上线后的补救动作，而是智能体架构设计阶段的输入条件。