最大化智能回报
作者：David Pan
去年年底，智能体工程终于真正开始发挥作用。一旦奏效，各方面都同步增长。更多工程师开始使用这些工具，也开始将其用于更多任务。随着思考和工具调用增多，每项任务的成本也随之上升。这三者相乘，导致许多工程团队的 AI 支出呈 J 型曲线上升。
这些团队会告诉您，这些支出物有所值。他们交付更快，也获得了实实在在的价值。但无论是否值得，他们的支出都在迅速突破 2026 年预算；如今我们几乎接触到的每位客户，都有某种形式的相同要求：继续加速，同时严控成本。
说起来容易，做起来难。以下是我对一些最常见问题的看法。
1. 我应该使用更便宜的模型吗？
大家都看得出来，Fable 和 Opus 相当昂贵，所以首先想到的问题自然是：能否使用更便宜的模型？但对此持合理的怀疑态度也很正常。如果便宜的模型产出的成果还得返工，那就根本没有省到钱。您花了两份钱，还浪费了时间。
去年年底，Opus 4.5 还是唯一能让您放心处理严肃工程任务的模型。如今，已有十多个模型的表现超过它。在顶尖模型中，智能水平的差距如今已相当小，而价格和速度的差距则非常大。只要选对模型，同一项任务通常只需一小部分成本，就能达到同样出色的效果。
难点在于如何选对模型。没有任何模型擅长所有任务，而且前沿模型每隔几周就会更新换代。要求工程师在脑中记住这张矩阵并不合理。事实证明，这也是 AI 擅长的工作。我们构建了一个模型路由器，由专门训练的定制模型驱动，专门负责这项任务：判断哪些模型能够有把握地处理特定任务，然后将任务路由到满足要求的最便宜模型。我们的路由器以低 68% 的成本实现了 Fable 级别的用户满意度。
所以，答案是肯定的：更便宜的模型确实能节省成本。只是别让您的工程师来负责路由。
2. 我应该使用开放权重模型吗？
原则上，当然可以。如果开放权重模型在某项任务上能提供最佳的每美元性能，它就应该纳入您的模型组合，最好和其他模型一样由路由器调度。
但实际上，截至本文撰写时，它们尚未处于帕累托前沿。当我们运行评估，并将 token 效率而非仅仅标价纳入考量时，领先的闭源模型仍能以每美元提供更高的智能水平。
好消息是，即使您从未运行过开放权重模型，也能从中受益。各家领先实验室都密切关注开放权重生态系统，这无疑也是闭源模型定价的影响因素之一。所以请继续支持开放权重模型。无论哪种情况，您都能受益。
3. 我应该使用云端智能体吗？它们不会很贵吗？
如今，“软件工厂”正备受关注：由云端智能体组成的集群全天候开发软件。工程负责人常见的反应是：这听起来很棒，但我的支出已经够多了。
可以理解。但云端智能体可能增加的许多支出，其实每天都已经在您的公司中产生。您的工程师已经在使用智能体协助进行代码审查、解决合并冲突、处理 CI 失败等任务。只不过，这些任务目前同样占用了大量工程时间，而且不同工程师的执行方式也不一致。
以代码审查为例。一名工程师的完全成本时薪可能为 50。一次 Bugbot 代码审查的成本不到一美元，而且还在不断改进。最新版本的速度提升超过 3 倍、成本降低 22%，并能发现多 10% 的缺陷。这笔账不需要复杂的 ROI 模型。
任何云端智能体工作流都有一套简单的行动指南：先让它可用，再让它更出色，最后让它更经济。时间站在您这边。随着时间推移，智能的成本只会不断下降。
4. 我应该跟踪哪些指标？
选择与您想实现的目标相对应的指标。这通常分为三个阶段。先看采用情况：大家是否真的在使用这些工具？然后衡量工程指标：交付速度是否更快？交付是否更高效？只有证明了这些，才应尝试将这些收益与业务成果关联起来。
衡量采用情况时，不要看代码行数和 token 支出。这两项都很容易被刷高，也可能诱导人们采取适得其反的行为。应衡量每天使用这些工具的工程师人数，以及他们的使用深度。
以下是一些有效的工程指标。请搭配安全防护指标使用，以便及时发现这些收益是否以其他方面的代价换来。
- 速度： PR 流转速度、工单完成率、故事点完成率。与采用 AI 前的基准相比，端到端项目交付速度。
- 效率： 通过自动化重复任务节省的时间，以及这些工作流中每项任务的成本。
- 安全防护措施： 缺陷数量、回滚率、代码变动率。
衡量对业务的影响最为困难，我不会假装这有一个简单的答案。您的 AI 支出越高，将其与业务成果关联起来的压力就越大。这很合理。公司的董事会并不关心您的工程指标，他们希望看到对营收和利润的影响。
5. 我应该为每位工程师设置支出预算吗？
大概应该。具体如何设置很大程度上取决于您的公司，并没有一个放之四海而皆准的数字。以下是一些普遍适用的建议。
与其设置硬性上限，不如设置可上调的软性上限，并让首次上调的流程尽可能顺畅。这样既能让大家了解支出情况，又能将决定权主要交给工程师。之后，随着上调额度越来越大，再进行更审慎的评估。AI 支出与聘请承包商并没有太大区别，您也不会为此开一张空白支票。
还应预期会出现幂律分布。有些工程师的支出会远高于其他人，这未必是坏事。我们的用量数据显示，高级用户与其他用户之间存在明显差距，而支出最高的用户往往也是整个公司中使用 AI 效率最高的一批人。
6. 我应如何审查 AI 支出？
您可能不喜欢这个答案：应定期审查支出，并与财务团队协作。大多数软件公司早已严格跟踪并优化云服务支出。如果您正在阅读本文，您的 AI 支出可能已经足够高，值得同样认真对待。财务团队会因此感谢您。这些问题也是 CFO 最关心的问题，因此我们专门成立了 CFO Council 来共同探讨。
从四个维度细分用量数据：团队、项目、工作流和工作类型。要判断自己是否具备所需的可视性，可以看您能否回答以下问题：
- 我的支出中，有多少用于三项最重要的产品计划？
- 团队中的一位工程师上个月在 token 上花费了 $10k。这笔支出是否带来了成效？
- 修复一个缺陷的 token 成本中位数是多少？趋势如何？
追查异常值和所有大额“未知”支出。深入分析，直到您了解每一笔支出，并确信其正在为业务创造价值。
然后根据发现采取行动。在 AI 真正发挥作用的领域加大投入。为高 ROI 用户提供更多预算，而不是更少。最后，尽量让预算调整接近零和。如果某个领域需要大幅超支，资金就必须从其他地方调配。
7. 我该如何指导团队？
不需要自己买单时，人们很容易养成不良习惯，而且在许多组织中，团队甚至从未见过账单。因此，应从成本透明化入手。
然后，沿管理链条逐级落实责任。基层工程经理应当认识到，确保团队的 AI 支出物有所值是其职责的一部分，就像对待招聘决策或大额技术债务投入一样。
做好这两点，大部分指导工作都会水到渠成。工程师天生会优化。让他们了解成本，并对结果负责，他们就会自行找到高效路径。