工程负责人决策指南

你的工程团队该自建开源权重编码模型吗?

Revolut的2000名工程师给出的答案是:这取决于规模,而非立场。

这取决于工程师数量、内部GPU与运维能力、以及数据驻留需求,并不只取决于模型质量。Revolut在约2000名工程师的规模下自建了开源权重模型,把前沿API账单削减了约90%,但仍为最棘手的问题保留前沿工具。

阅读完整回答

规模较小的团队通常会发现,运行前沿API反而更便宜。

发布于

要点总结

  • 在约2000名工程师的规模下,Revolut用56块Nvidia B200 GPU自建了Z.ai的GLM,把综合token成本降到了此前支付给Anthropic和OpenAI账单的约十分之一。
  • 交付周期(从接手一个功能到可合并所用的天数)的改善幅度超过了编码时间,约为70%对60%,这说明真正的瓶颈从来不是纯粹的编码本身。
  • 这项提升与取消token预算限制相关,而不只是换模型本身:一旦token不再稀缺,工程师就把AI也用到了邮件、工单和文档上。
  • 自建需要真正的基础设施工作,而不只是下载权重:通过调整上下文长度、量化和并行策略,在GPU数量不变的情况下,首个token延迟降低了88%。
  • Revolut仍将Anthropic的Claude Code、OpenAI的Codex和Google的Gemini留作应对最棘手问题的前沿备选方案,而非日常默认选项。
免费课时 · 无需注册账号认识 Claude为什么是 Claude?6分钟开始免费课时

完整指南

点按任意部分即可展开。

关于本指南

这是一份写给工程负责人的选型指南,帮助你判断是否该自建像Z.ai的GLM这样的开源权重编码模型,而不是按席位或按token为前沿API付费。内容基于Revolut公开的数据:这家银行把旗下约2000名工程师中的大部分从按token计费中解放出来,同时仍为最棘手的问题保留Anthropic的Claude Code、OpenAI的Codex和Google的Gemini。真正的启发不在于Revolut选了哪个模型,而在于一旦token不再被配给限制,发生了什么变化。

自建 对比 前沿API或席位方案:决策检查清单

考量因素倾向于自建开源权重模型倾向于前沿API或席位方案
团队规模与token用量数百到数千名工程师,每天产生稳定且高量的token用量,就像Revolut约2000名工程师的规模。中小规模团队,GPU和运维开销会超过它所替代的API账单。
内部GPU与运维能力你已经在运营GPU基础设施,或能招到相应人才:服务栈调优、量化和容量规划是真实且持续的工作。没有专门的机器学习基础设施团队,也不打算为了跑一个编码模型专门组建一个。
数据驻留与合规代码或上下文不能离开你控制的基础设施,或监管机构要求你说明推理具体在哪里发生。供应商的标准数据处理条款已经能满足你的合规和数据驻留要求。
最棘手问题的备选方案为偶尔使用前沿API留出预算,用于开源权重模型处理不好的那一小部分任务。你的大部分工作本身就是前沿模型专门针对的那种困难、多样化的问题,而不是常规编码。
计费的可预测性与灵活性你想要平稳、可预测的基础设施成本,而不是随用量和模型定价变化而波动的账单。你想在不重新调优服务栈的情况下快速切换模型或供应商,而且用量波动太大,难以按此配置GPU规模。
案例来源

Revolut实际做了什么、测量了什么

负责Revolut AI运营的David Abitbol,在2026年末AI Engineer纽约大会的一次演讲中描述了这次部署。Revolut在约2000名工程师的样本中追踪两个指标:以小时计的编码时间,以及从接手一个功能到合并完成、可部署所用的天数,即交付周期。

早期接入内部数据的Google的Gemini对两项指标都有小幅改善,主要是替代了查文档的工作。接下来推出的是Anthropic的Claude Code,但设有严格的按工程师分配的token预算,原因是此前有工程师花费巨大却看不出明显回报;Abitbol表示,这一阶段起初几乎看不出可衡量的效果。

真正改变这两个数字的,是从2026年4月前后开始自建Z.ai的GLM这一开源权重模型,并且完全不设token上限。编码时间改善了约60%,交付周期改善了约70%。如今Revolut把这个自建模型当作日常编码的默认选择,计费平稳且可预测,而把前沿工具留作应对最棘手问题的备选方案。

在约2000名工程师的规模下,为模型提供服务用了56块Nvidia B200 GPU,目标是把首个token延迟控制在3秒以内(超过5秒就会出现抱怨)。综合成本约为每百万token 0.30美元,约为Revolut此前支付给Anthropic和OpenAI账单总和的十分之一。

真正的启发

问题不在模型,在于限额

Abitbol自己对数据的解读才是最有价值的部分:交付周期的改善幅度超过了编码时间,这说明编码从来都不是主要瓶颈。一旦没人需要为本季度最难的工单省着用token,工程师就会开始把AI用在邮件、Jira、Confluence,以及围绕一个功能的其他工作上,而不只是代码本身。

这个结论不取决于团队用的是哪个模型。如果一个团队在使用前沿API时按工程师分配token预算,或者为控制成本设置使用上限,那就等于重新制造了Revolut靠取消限额解决的那个配给问题。解决办法未必是自建;有时只需要用同一个前沿模型换一个更便宜或更平稳的计费方案。

对任何工程负责人来说,实际可用的做法是:在判断AI工具是否真正见效之前,不要只看编码时间或生成的代码行数,而要测量交付周期,同时留意工程师是否因为成本或配额压力而自行限制使用量。

本页聚焦于团队成本和部署决策本身:是否要自建,以及一旦决定自建该如何落地推行。至于开源权重、开源和闭源API究竟意味着什么,以及实验室和政府为何对它们区别对待这类更宏观、与具体模型无关的问题,Nightschool AI的《开源与闭源AI模型对比》指南有完整讨论。

先调优,后扩容

自建靠的是工程投入,不只是权重文件

Revolut的基础设施数据是一个有用的提醒:不要以为只要有了GPU,自建就是件简单的事。从2026年4月到8月,在GPU数量始终保持56块不变的情况下,负载从每秒约3个请求上升到超过7个,而首个token延迟从约14秒降到不足2秒,这是在没有新增硬件的情况下实现的88%延迟改善。

Abitbol认为,这其中约80%的提升来自服务配置本身,而不是GPU:把上下文长度限制在远低于模型宣称上限的水平,在当前这一代GPU硬件上运行更低精度的量化,并调整模型注意力缓存在各设备间的分配方式。他对打算走这条路的团队给出的总结很直接:把权重装进GPU就算完事,得到的性能会很糟糕。

这种调优工作是一项真实且持续的运维成本,而大多数团队在把自建模型的标价与API账单做对比时,都会低估这一点。

推行落地

先培养习惯,再动基础设施

Revolut的收益与取消token限额相关,而不是换模型本身。以下步骤能帮助任何团队、在任何模型上,把这个习惯真正固定下来。

先建立交付周期基线

在改动任何工具或预算之前,先测量一个典型功能从接手到可合并实际需要多长时间。没有这个基线,你就无法判断之后的改动究竟有没有用。

消除隐性限额

检查工程师是否因为预算或配额限制,而把AI用量留给本月最难的工单。如果是这样,无论背后用的是哪个模型,这种配给都会限制你能拿到的结果。

每个工单都要训练,不只是难的

真正推动Revolut数字变化的习惯,是把AI用在邮件、工单和文档上,而不只是用在棘手的编码问题上。要明确地教会团队这个习惯;光是取消限额,这个习惯并不会自己形成。

重新测量交付周期,不只是编码时间

改动之后,用同一个交付周期指标再测一次。如果编码时间有改善,但交付周期没有,说明瓶颈仍然在流程的其他地方,再多的token也解决不了。

诚实看待局限

Revolut这个案例证明不了什么

Revolut的数据描述的是一家受监管银行在自身规模下的部署情况。在把它当作普遍适用的结论之前,请记住这些局限。

一家公司的数据,不是基准值

本指南中的成本和延迟数字,描述的是Revolut具体的部署方式、使用模式和谈定的条款。请把它们当作可行性的证据,而不是对你自己工作负载的价格或性能保证。

前沿工具仍在使用之中

Revolut并没有彻底放弃Anthropic的Claude Code、OpenAI的Codex或Google的Gemini,而是特意把它们留作应对自建模型处理得不够好的问题的备选方案,这是大多数自建宣传都没有提到的成本。

合规细节因公司而异

Revolut关于在何处运行模型、以及这如何满足其监管要求的推理,反映的是它作为一家受欧盟监管银行的自身情况。这并不是一个普遍结论,不能说明任何模型、地区或配置都能满足另一家机构的合规义务。

先教会团队这个习惯,再动基础设施

Revolut的收益来自取消token限额,让工程师在每个工单上都用AI,而不只是难的那些。这个习惯的转变要先于任何自建决策,而Nightschool AI的企业培训能在整个工程团队中建立起这个习惯。

常见问题

什么是开源权重编码模型?

指训练好的权重可以下载、并能在你自己控制的基础设施上运行的模型,这与只能通过供应商API访问的闭源模型不同。Revolut案例中使用的Z.ai的GLM就是一个例子;运行它仍然需要真正的GPU基础设施和服务栈调优。

Revolut是否彻底停用了Claude Code、Codex和Gemini?

没有。Revolut把自建的开源权重模型设为日常编码的默认选择,但仍保留Anthropic的Claude Code、OpenAI的Codex和Google的Gemini,作为应对最棘手问题的备选方案,Revolut表示这些前沿工具在这类问题上依然表现良好。

Revolut通过自建到底节省了多少?

据其自述,综合成本约为每百万token 0.30美元,约为此前支付给Anthropic和OpenAI账单总和的十分之一,当时用56块Nvidia B200 GPU为约2000名工程师提供服务。这个数字描述的是Revolut自身的部署和使用情况,并非每个团队都该预期的价格。

算上工程投入之后,自建真的更便宜吗?

不一定。Revolut表示,其性能提升中约80%来自服务配置的调优,而不是购买更多GPU,而这是一项持续的基础设施工作。如果一个小团队内部没有这方面的能力,要达到相近的性能,花费可能比前沿API账单更高。

像GLM这样的自建开源权重模型,会因为产地问题而存在安全风险吗?

模型权重在哪里训练,和你在哪里运行它,是两个不同的问题。作为一家受监管的银行,Revolut自身的立场是:下载权重并在自己控制、且在获批司法管辖区内的基础设施上运行,与向第三方托管的端点发送请求,走的是不同的数据路径;面对不同监管要求的机构,应该根据自身合规要求核实这一点,而不是假设它同样适用于自己。

规模较小的工程团队,不自建的话应该怎么做?

重点关注这个经验本身,而不是基础设施:先弄清楚工程师是否因为成本或配额限制而在限制AI用量;如果是,在考虑自建所需的GPU和运维投入之前,先看看你现有前沿模型是否有更平稳或更便宜的计费方案。

要判断AI编码工具是否真的有用,应该测量什么?

除了编码时间,还要测量交付周期,即从接手一个功能到合并完成、可部署所用的天数。Revolut的数据显示,交付周期的改善幅度超过了编码时间,这说明真正的瓶颈在于周边的工作,而不是打字本身。

Nightschool AI与Anthropic、Z.ai或Revolut有关联吗?

没有。Nightschool AI是一个独立的学习平台,与Anthropic、Z.ai、Revolut、OpenAI或Google没有关联,也未获得它们的认可或赞助。Claude、Codex、Gemini和GLM分别是各自公司的产品,这里提及它们只是为了说明它们是什么、在这个案例中是如何被使用的。

先建立习惯,再决定基础设施

模型和部署方式的选择,重要性都不及一个问题:你的团队是否仍在限额使用token。

Nightschool AI 是一个独立的学习平台,与 Anthropic 没有任何隶属、认可或赞助关系。Claude 是 Anthropic, PBC 的商标。 在寻找 Anthropic 官方的 Claude Academy?请访问 academy.claude.com。