使用 AI 编程工具的人可能都有过类似感受。接入接口密钥并按 token 付费,每输入一个字符都感觉像在盯着出租车计价器跳表。而一旦转为按月订阅模式,便会觉得早交的钱早享受,仿佛多用了就赚了钱。
这种心理上的温差,最近在欧洲最大的数字银行 Revolut 内部也得到了验证。这家受欧盟监管的银行有 8000 万客户,在 2026 年 7 月的估值达到了 1150 亿美元。David Abitbol 负责该公司的 AI 运维和基础设施。他在 AI Engineer NYC 的演讲中晒出了大约 2000 个工程师一年的真实账本。
他们先走了一个弯路。2025 年 1 月,他们给团队引入了 Gemini 来查文档。工程师写代码的实际小时数减少了 20%。但是从认领功能到代码合并准备上线的总时间,也就是交付周期只减少了 10%。
到了 2026 年 1 月,公司开始大规模推广 Claude Code。那时虽然效率提升不明显,但单人的月账单已经涨到了 1000 至 10000 美元,公司不得不设置严格个人预算上限。
转折发生在 2026 年 4 月 26 日。他们租下了 56 张英伟达旗舰人工智能显卡 B200。团队在这些显卡上自己托管智谱开放权重的编码大模型 GLM-5.1。后来他们又把模型平滑升级到了 GLM-5.3。
The Register 的追踪报道透露了切换之后的核心收益。混合推理的成本降低到了每百万 token 0.30 美元,每个月的账单只有之前商业接口账单的 10%。此外,全员写代码的时间减少了 60%,整体交付周期更是减少了 70%。
那么为什么他们选用这个开源模型,尽管在纸面性能上它不如其他模型,整体交付提速反而比写代码本身更快?这跟模型的智能程度没有关系。核心在于计费模式改变了工程师的日常行为。
在算力和代码昂贵的年代,每个工程师脑子里都装着一张隐形的价格表。我在《一次性软件与被压缩的现实》中提到过,以前为 10 分钟的排查写个工具太奢侈。大家只能靠随机抽样 10 个样本和直觉盲猜。生成代码的边际成本趋近于 0 之后,花 2 分钟生成专用排查网页并实现用完即焚才是最优解。
当接口按 token 收费并设置配额上限时,这张隐形价格表又回到了工程师脑海里。Revolut 设置个人预算上限后,工程师每天计算手里的额度能否撑到月底。大家在季度末冲刺时担心没额度,像攒粮票一样囤 token。只有在最复杂的编码难题上才动用 AI。
这种精打细算直接锁死了团队的整体产出。David Abitbol 在演讲中指出,真正拖慢交付周期的往往并非写核心算法的那几个小时。翻查收件箱、日常调试、填 Jira 工单和写 Confluence 文档,吞掉了更多工时。
只要计价器还在走字,谁都不会用宝贵的配额去干杂活。一旦公司切到自托管的固定显卡池,算力成本已经提前付过了。工程师今天多跑 100 万 token 的文档整理,公司月底也不会多交一分钱账单。
卸下计价器的心理包袱后,工程师们开始毫无负罪感地用 AI 处理整个收件箱、Jira 工单和 Confluence 文档。非编码环节的堵塞随之打通,整体交付周期因此缩短 70%,轻松超过了 60% 的写代码时间降幅。
固定成本池也重塑了人机协作的节奏。以前按量计费,人会盯着屏幕上的一行行思考过程,生怕模型走偏白花钱。现在算力敞开供应,工程师同时挂起多个并行任务,处理别的事务后再回来验收。白天高峰期单人每秒生成 200 个 token 就够用,下午 5 点后在线人数减少、后台批处理接管,单人速度还能冲到每秒 800 个。
固定成本池带来的这种红利让不少读者好奇,如果包月心态确实有用,为什么 Revolut 不直接给每人发一个 200 美元的商用包月订阅呢?而普通开发者要不要也买个显卡自己上?
要算清这笔账,我们不妨先看看大模型推理的采购方式。我在《本地 LLM 这个词,把两个市场混装成了一个》中也做过划分,采购推理实际上有两个独立的维度。第一个维度是能不能拿到开放权重,第二个维度是按时间固定计费还是按 token 计费。买卡自建与买每月 80 美元的智谱套餐或 100 美元的 Ollama 订阅,其实同属一格。
它们都不按 token 跳表,但个人和千人企业去够这个格子的路径完全相反。对个人和小团队来说,买多张显卡回家搭服务是一笔亏本买卖。我此前算过自己桌下那台 3 张 RTX 5090 主机的底账。那台主机跑 4 位量化的 Qwen3.8-27B 模型,硬件成本约 1.7 万美元。
每月折旧约 350 美元,全天满载运转才能把每百万 token 的成本压到 0.4 美元。可我每天只用一两个小时,利用率不到 5%,远低于 26% 到 45% 的回本线。摊下来每百万 token 要 4 到 6 美元,比商业接口贵近 10 倍。对个人的意义类似在后院备一台柴油发电机,买的是数据不出本地的控制权而非省钱。
对于个人开发者想长期使用的场景,性价比最高的其实是直接购买商业订阅。我在《AI 成本的五本账》中有专门讨论过这个补贴问题。一个重度用户只要付 200 美元订阅费,一个月就能用掉标价 2000 到 5000 美元的算力。厂商之所以愿意给 10 到 25 倍的补贴,是为了招募资深开发者来提供真实的难题交互数据,用于模型训练。
然而,模型的权重大约每 6 个月就会更新一次,因此模型厂商需要依赖企业的按量接口来赚取高达 85.4% 的毛利。为了阻止企业拿个人订阅当批量接口用,厂商们建立了《Claude 价格围栏》这样的严格限制,使得订阅用户无法使用第三方客户端或进行程序化调用。大型企业因此无法享受到个人订阅的优惠,从而无法从厂商那里获得包月服务的倒贴。
好在团队规模一旦跨过千人门槛,硬件利用率的规律就会倒转过来。Revolut 让 2000 人共用 56 张显卡,平均约 36 名工程师共享一张显卡。单人写代码总是敲几分钟键盘、停下来思考半小时。把 36 个人的阅读间隙、调试停顿和傍晚批处理叠在一起,立刻抹平了脉冲式的零散需求。
这种分时复用直接把硬件利用率推过了回本的荣枯线。商业厂商拒绝向大企业提供低价包月,大企业就干脆自托管开放权重模型。他们靠 36 比 1 的复用率,自己动手在公司内部发了一张无限量订阅卡。
一旦放开额度限制,让所有人同时提交任务,请求量必然飙升。如果没有不断购入新显卡,怎么保证 2000 个人不卡死?这是自建包月池必须跨过的工程门槛。
2026 年 4 月,他们刚把 GLM-5.1 部署在 56 张 B200 上,发现用默认设置效果很差。按回车到屏幕出现第一个字的时间叫首字延迟。当时每秒大约 3 次请求,但首字延迟竟然高达 14.26 秒。他们内部的经验是如果首字延迟超过 5 秒,Slack 上就会全是抱怨,一定要降到 3 秒以内。
从 4 月到 8 月,内部请求量继续上涨了 76%,超过了每秒 7 次请求。团队定下一条死规矩,坚持维持 56 张 B200 不加一张新卡。经过调优,他们把首字延迟砍掉了 88%,压到了 1.68 秒。
为什么 56 张顶级显卡一上线就卡到十几秒?核心瓶颈在显存争抢。显卡不仅要装下约 380GB 的模型权重,还要为每个正在对话的工程师存一份上文历史记录。有了它,每轮追问就不必从头重读整篇代码,这块专用显存空间就叫对话缓存。
一个人对话缓存可能要占 6GB 到 26GB 显存。几百人同时挂长对话,显存很快就会告急。为了给并发的缓存腾地方,团队首先砍掉了百万上下文的噱头。模型虽然支持 100 万上下文,但 Abitbol 直言那是挤爆并发队列的显存陷阱。团队实测写代码 25.6 万 token 完全够用,于是果断锁死上限。
其次是压缩权重精度和跨卡切分。团队启用原生的 4 位浮点压缩格式 NVFP4 替代 8 位格式,无损省出 40% 显存。即使权重塞进 4 张卡就够了,他们也故意把一份模型拆到 8 张卡上分摊。这种 8 卡切分专门给每张卡留出了宽裕的对话缓存空间。
同时,对相同开头代码的提示词直接复用缓存的概率,也就是缓存命中率也要高于 90%。他们把读长提示词和逐字生成回答的工作交给不同的显卡来做,用按序排队读题和提前猜词加速来降低延迟。单模型潜力榨干后,他们再把不适合纯文本模型做的活分流出去。比如看截图的请求自动转给 Gemini 或 GPT Luna,设计师用带视觉的 GLM-5V-Flash,极难问题则走例外通道调用 Claude Code 或 Codex。
在算力和速度都解决以后,金融企业还要面对合规和安全的问题,为什么欧盟严格监管的银行敢用中国团队发布的开源模型呢?这是因为监管红线是不能把代码和客户数据发到境外的第三方接口。Revolut 把开放权重的服务器都部署在美国、欧盟、英国和以色列的零数据留存机房上,让数据不出合规边界。
欧盟银行对自主智能体监管更严。系统用命令沙盒拦住危险操作,grep
和 git add 自动放行。碰到 gradle
这类动构建环境的命令就拦截,要求人工点击批准。这种人工确认加完整日志审计在合规上把系统牢牢锁死在人类辅助工具范畴内。
抄作业前,我们先要把这份账本里没写出来的隐性条件摊开。60% 写代码提速、70% 交付提速和 0.30 美元单价,都是企业自报且未经独立审计。同时他们在换模型时一并取消了个人额度上限,没法把换模型和放开额度各自的贡献单独剥离出来。
更重要的是,这些公开的数字只看到了冰山一角。0.30 美元每百万 token 的价格和 90% 的账单下降,只是运营的日常边际成本。那 56 张 B200 显卡本身的硬件折旧或者租用费是数百万美元。还有那个把首字延迟从 14.26 秒降到 1.68 秒的专职推理团队的薪水,都没算进分母里。
意识到这些边界,不同规模的团队就可以做出清晰的决策。如果你是个人开发者或百人以内的研发团队,千万不要因 90% 的账单下降数字冲昏头去自购显卡或租裸机。你的并发跑不满显卡,也养不起专职调优团队。直接去买商业包月订阅或开放权重模型的云端包月套餐,把接口计价器关掉,是目前最划算的选择。
如果你管理的是上千人的工程组织,正在为按量账单和配额扯皮头疼,Revolut 则指明了方向。大厂自建真正的红利,在于用高复用率的固定算力池加开放权重,在公司内部重建包月体验。先把工程师脑子里的计价器拆掉,AI 的生产力才算真正进场。