同一个榜单，单任务成本差 13 倍：Agent 该怎么算账

选模型时最常见的比价方式，是把「每百万 token 多少钱」列成一张表。这个方法在做对话类产品时够用，做 Agent 时会算错。

SuperCLUE 11 月榜的编程任务统计给出了一组直接证据。

一、13 倍的差距从哪来

在同一套编程任务上：

• GPT-6.1-Sol：平均每题 30.89 万 token、14.58 轮交互，得分 69.23
• Kimi-K3.1-Pro：42.73 万 token，得分 57.69
• Step-5-Preview：402.91 万 token、88.88 轮交互，得分 46.15

最高与最低相差约 13 倍。如果再叠上单价差异，单任务成本的实际差距会更大。

原因不复杂：Agent 任务里，token 消耗等于「思考长度 × 交互轮次 × 重试次数」。一个模型如果第一轮就想对了，消耗 30 万；如果它需要反复试错、读文件、回滚，消耗就会翻十倍。单价在这里几乎不起决定作用。

二、三个比单价更有用的指标

单任务 token 消耗：这是最直接的指标。用自己的 20–50 条真实任务跑一遍，统计每条任务的总 token，比看价目表可靠得多。

首次通过率：如果模型第一次就能给出可用结果，你只需要付一次钱；如果需要三轮修正，成本是三倍，还不算人工审核时间。

交互轮次：轮次多通常意味着模型在试错。轮次还会放大延迟——用户感知的是总时长，不是单次响应速度。

把这三项乘起来，才是「完成一次业务动作」的真实成本。

三、一个具体的算法

假设你的任务是「从工单里抽取字段并生成修复建议」，用 100 条真实样本测试：

1. 记录每条任务的总 token（输入 + 输出，含重试）
2. 记录人工审核通过率
3. 计算单条任务成本 = 总 token × 单价 ÷ 通过率

最后那一项除以通过率，是最容易被忽略的。一个通过率 60% 的模型，实际成本是账面数字的 1.67 倍，因为失败的 40% 要重跑或人工兜底。

四、对团队的启示

别用旗舰档跑全流程。 常见做法是用强模型做规划、弱模型做执行。规划只占 5% 的 token，执行占 95%，这个分工能省下大部分成本。

给 Agent 设预算上限。 单任务超过某个 token 数就中断并降级处理，避免一个异常输入烧掉整天的额度。

缓存命中率要监控。 长系统提示在多轮对话里会反复计费，启用上下文缓存通常能省三到五成的输入成本。

把「重试」当成本项。 结构化输出失败的模型，需要外层重试，这部分消耗不体现在模型报价里，但会出现在账单上。

结论很朴素：在 Agent 场景里，贵的模型往往更便宜——前提是它能把任务一次做对。比价时要算的是「完成率」，不是「单价」。