从推理到执行:AI的下一轮经济

AI繁荣可成功,但"拥有最多GPU"与"捕获最多价值"将脱钩——权力移向决定步骤需求、运行位置与供应商报酬的组装者。

JAYA GUPTA(@JAYAGUP10)观点长文 · 已翻译 · 约 12 分钟
阅览室 · AI 行业动态#推理#组装#供应#增长#负载#需求原文

作者:Jaya Gupta 与 Ashu Garg(@ashugarg)

过去几年,AI 的故事一直由提供智能的公司及其基础设施书写。核心问题围绕 NVIDIA、前沿实验室、推理服务商和新型云厂商展开:模型能有多大,谁能拿到足够的 GPU 来训练和服务它,谁又能为下一个集群提供融资。那个时代正在落幕。

下一阶段将围绕另一个问题展开:谁将把智能转化为有用的工作,并最终掌控把事做成的经济账?

CoreWeave 让利害关系变得具体:其第二季度营收翻了一倍多,达到 25.75 亿美元,而 6 月的积压订单达到约 1040 亿美元。然而净利息支出消耗了 6.4 亿美元,约占营收的四分之一。2026 年 10 月 14 日,其股价下跌约 16%,其 2031 年债券的收益率升至近 15%。CoreWeave 的营收在增长,而投资者却要求为其扩张融资获得高得多的回报。仅有需求并不能回答投资者现在提出的问题:谁获取了这些算力所完成工作的价值?

这些客户接下来买什么,与它们花多少钱同样重要。智能体围绕推理产生了不断增长的工作负载,而应用对这项工作负载如何执行获得了更多控制权。它们所使用的智能与执行工作的基础设施,正成为可分别购买的组件。

我的赌注是,权力将转向那些决定哪些步骤需要前沿推理、哪些可以使用更小的模型或普通软件、工作在何处运行、以及哪些供应商获得报酬的公司。 一个应用可以在总体上购买更多算力,同时不断调整其投入组合。而它的供应商们,则是基于对这些采购的预期,为模型、机器和算力进行了融资。

智能体的工作正从推理转向执行

让助手盯两周机票,降价就改签。这一个请求会产生两类工作负载。推理负责理解请求、判断陌生选项,前沿推理通常跑在为神经网络并行数学运算而设计的 GPU 及其他加速器上。执行负责查票价、存结果、完成订票,跑在基于 CPU 的服务上:程序、数据库和网络调用。

大部分工作是执行。一个定时任务每小时查一次价格,丢弃未变化的结果,只在某个选项需要判断时才调用模型。两次检查之间,该任务会关闭,而调度和历史记录仍然保留。订票仍需授权、送达航空公司、提交并记录。如果确认信息丢失,系统必须先确定订票是否已经发生,然后才能重试。这些步骤可以不再调用模型,但执行、存储和恢复仍然要花钱。

在一个专注于训练和提供模型的行业里,这种转变很容易被忽视。聊天会话只在有人提问时才产生工作。而智能体可以在对话结束后继续产生工作。执行跟踪的是任务:定时检查、传入事件、未完成的交易以及需要再次尝试的失败步骤。 一条指令可能带来持续数周对 CPU、网络、存储和代码托管的需求。组装这项服务的公司决定这些工作在哪里运行,以及哪些供应商能拿到钱。

看看这些新型智能体究竟需要什么。Meta 的 Muse 运行在 Meta 自家模型上,但实际工作发生在一台专用的云虚拟机上,即使应用关闭,这台虚拟机仍会继续运行。一个独立进程管控它发往互联网的内容,Stripe 为其购物签发一次性卡,而在 Mac 上,它需要操作系统的许可才能访问本地文件和邮件。一个助手就把模型服务、云端计算机、网络管控、支付和本地权限集于一身。每一项都会带来成本、依赖,或另一家公司对这项工作的支配权。

其他发布则展示了这些资源在对话间隙如何保持忙碌。OpenAI 的 Dots 监控客户反馈,构建并测试修复方案,并准备拉取请求。xAI 的 Grok Bot 按计划在共享云计算机上重跑工作流,并保持持久的浏览器会话。微软的 Copilot Cowork 运行定时任务,并响应电子邮件或 Teams 触发器。单个用户就能启动多项任务,无需再次提示即可持续运行。

这些工作首先落在普通基础设施上。 Cloudflare 网络上来自 AI 智能体的每日请求一年内增长超过 1,700%。GitHub 的 Git 活动翻了一倍多,达到每月 4,730 亿次事件,推送量增长近五倍。负载的形态也变了:智能体几乎每执行一个动作就提交一次,成千上万个智能体合并到单一分支,每次推送每分钟触发数千次拉取。GitHub 的架构无法承受这些,因此正在重建其存储层。

芯片厂商已经注意到了。八月下旬,NVIDIA 开始向 Anthropic、OpenAI 和 Oracle 出货 Vera——其首款专为智能体打造的处理器。交付该处理器的高管表示:“我们看到 CPU 的需求正在飙升。”Intel 称,CPU 与 GPU 的配比正从训练阶段约每八块 GPU 配一颗 CPU,转向智能体部署中的一比一,并且已将生产重心从消费级芯片转向服务器部件。到九月底,有报道称 AMD 2027 年的服务器 CPU 产能已被预订一空。

买家也是如此。Anthropic 同意以初始七年期从 Akamai 购买约 116 亿美元的算力容量。Akamai 将这笔交易归因于 CPU 工作负载的增长,并预计将产生约 55 亿美元的相关资本支出。一家销售完整服务的实验室,会成为其模型周边基础设施的大买家。

执行能力也在被分块出售。Temporal 记录已完成的步骤并协调重试。E2B 等沙箱提供商按沙箱运行期间所用的 CPU 和内存计费。执行账单在增长,争夺这块蛋糕的供应商名单也在变长!

谁组装智能体,谁就掌控组合权

组装智能体的公司决定每个步骤需要什么,而它们的选择正朝三个方向不断扩展:使用哪种智能、工作在何处运行,以及每项操作如何路由。一个单一任务可以使用多个模型、跨不同环境运行,并通过不同路径进入相同的应用。谁组装这些部件,谁就决定哪些供应商参与其中,以及从每家供应商那里采购什么。

提供“思考”能力的方式要多得多。仅 OpenRouter 一家就提供超过 400 个模型,每天处理超过 10 万亿个 token。小型决策模型只回答范围很窄的问题,无需写出冗长回复;Cloudflare 的 Clef-flash 每百万输入 token 收费 $0.038,用来选择一个选项或回答是/否。有些推理留在设备上完成:苹果的新 Siri 会在手机与苹果云之间做选择,Windows 也在增加向本地模型的路由。还有些推理只需发生一次。谷歌的新 Gemini 智能体可以生成一份 BigQuery 报告、保存查询,之后再重新运行,且不产生 token 费用。

执行工作的方式同样在快速增多。以退款为例。一个服务确认智能体代表哪位客户行事,以及它是否可以打款。另一个服务提交交易,可以通过直接 API 或已登录的浏览器完成。第三个服务记录结果,以便任务在崩溃后仍能存续。运行这一切的工作进程可以放在笔记本电脑、云沙箱或边缘节点上,而每个部件都可以来自不同的公司。OpenAI 的 Agents API 发布时就有九个具名沙箱合作伙伴,因此开发者可以从一家公司购买运行框架、从另一家公司购买模型、再从第三家公司购买算力。

接下来是负责在这一切之中做选择的那一层。以一个支持请求为例。网关会先检查它此前是否已被答复过;Cloudflare、Portkey 和 LiteLLM 都能从缓存中返回重复请求。若没有,则由一个小模型来分流:密码重置交给便宜的模型,有争议的扣费交给前沿模型。若该提供商故障,网关便切换到另一家。

把这些选择相乘,组装智能体的公司就成了全天候的谈判者。许多企业软件仍以多年合同采购,但智能体工作负载正越来越多地按请求购买。组装方会针对完成率、速度和成本测试模型、工具与运行时的各种组合,并把更多工作交给胜出的那一组。更换运行时需要集成工作;一旦路由接通,切换模型只需改一次配置。组装方可以在每次运行时重新决定组合,因此每个供应商都在为下一个请求而竞争。

每一种选择对实验室收入的削减方式各不相同:路由到更小的模型仍然会购买推理,提示缓存会降低请求中重复部分的成本,而复用答案或运行已保存的代码则完全消除了这次请求。

按结果定价会奖励这种持续调整。Sierra 按已解决的对话或留存的客户等结果收费。交付这一结果会消耗推理、执行容量、存储和恢复服务。在每次成功结果固定价格的情况下,完成率、重试放大和机器利用率决定了有多少收入能转化为利润。

每一层都想掌控路径

下一场平台战争,争的是谁能把其他所有人都变成供应商。 每一层都想利用自己现有的优势来组织整个服务、把它卖给客户,并把其余能力作为输入采购进来。

浏览器与连接器正在争夺通往应用的路径。Chrome 的 DevTools MCP 让智能体在获得许可的情况下使用用户已登录的浏览器,而直接连接器则在不加载页面的情况下完成同样的操作。

设备与云正在争夺任务的归属权。以设备为中心的智能体保留本地上下文与权限,从云端购买推理能力。云端智能体则保留任务历史、安排下一次运行,并把设备视为一个端点。关键在于:当对话结束时,哪个系统记得哪些事情尚未完成。

实验室与基础设施平台正在争夺操作系统层本身。Anthropic 的 Managed Agents 即使客户自带沙箱工作节点,也仍然保留会话历史与工作队列。Cloudflare 则从另一侧切入,提供执行环境与持久化浏览器会话,开发者可以在其上用任意模型进行构建。

业务应用则在守卫底层的交易。Salesforce 向 Claude 暴露操作,但强制执行自己的权限与规则。助手可以协调工作,但由 Salesforce 决定其记录接受哪些变更。拥有对话并不等于对工作实际发生的系统拥有权威。

我预计网络安全将成为推理最大的企业用途之一(明年占比甚至可能达到30%)。随着软件不断变更,持续的代码审查、漏洞利用验证与修复测试会形成反复出现的模型工作负载。安全领域的现有厂商已经拥有客户关系、遥测数据以及对受保护系统的访问权限。Palo Alto的Unit 42将多个模型整合在一个专有框架之下,用于持续测试;其AI网关负责执行企业策略,并在获准的模型与工具之间路由请求。在现有厂商已经握有的安全合同中,可能会涌现出一大块新的token需求池,而各家实验室将争相供应这部分需求,同时还有大量廉价的后训练开放权重模型参与竞争。

这些较量决定了谁来制定采购规则,以及谁因协调这项工作而获得报酬。Warp按每个agent-hour收取平台积分,对每一次云端运行都计费,即便客户自带推理和worker,包括使用Claude Code或Codex的运行也不例外。协调服务可以在其下方的供应商不断更替的同时,继续赚取自己的费用。

资本已锁定在一个正在变化的组合上

应用商和组装商可以在供应商收回成本之前很久,就改变他们所购买的东西。

北电和朗讯就是警示。它们为一张后来变得不可或缺的网络供应设备。互联网持续增长。流量持续攀升。但运营商削减了设备订单,转而使用已经安装的容量。技术取得了成功,而原本预期为其建设买单的采购却崩塌了。

如今,英伟达供应设备,而像 CoreWeave 这样的新云(neocloud)负责融资和运营容量。它们的客户可以扩大所完成的工作,同时改变模型、推理调用次数以及每项工作所需的基础设施。CoreWeave 自己也警告说,客户可能会重新设计其系统,以减少对其服务的需求,并拒绝续约或扩大采购。现有合同支撑着承诺收入,然而,风险敞口在于接下来的事情:续约价格、未承诺容量,以及下一个需要有人融资的集群。危险就在这里:客户可以持续增长,而为其供应商提供融资的支出模式却分崩离析。

赌注

我的赌注是:AI 的下一阶段将打破“拥有最多 GPU”与“获取最多价值”之间的关联。成千上万的应用和组装者将购买不断变化的组合——前沿推理、更小的模型、开放权重模型、可复用软件和执行服务,而路由会把这些采购分散到日益扩大的供应商群体中。

AI 热潮可以取得成功,即便为其提供资金的部分投资逻辑会失败。

已读完 · 本文由熊猫易读翻译重排