我们打造了一个快 20 倍的 Grok 机器人
AI助理订晚餐耗时远超手动，作者用Cerebras快推理+Pi框架+技能保存，把任务压到22秒、快19倍。
作者：Sarah Chieng（@milksandmatcha）和 @0xSero
个人助理应当为你节省时间和精力。过去几周，我们痴迷地测试了 AI 个人助理在日常任务上的表现，从预订机票、管理日历，到购买杂货、规划膳食。
每当助理能自行完成某件事，我们仍会惊叹不已。但看着它花超过 7 分钟去订一顿我们手动只需 37 秒就能搞定的晚餐，那份兴奋感无疑会大打折扣。
于是我们开始深挖这些时间都花在了哪里。在这次实验中，我们用运行在 Cerebras 上的 Qwen 3.8 27B 搭建了一个测试助理，并以 Pi 作为智能体框架。借助 Cerebras 上更快的推理速度以及框架工程，我们自己的助理在 22 秒内完成了任务，比现有助理快 19 倍。以下是我们所做的改动。
新一代消费级 AI 助理
OpenClaw 让我们窥见了未来，而新一代消费级 AI 助理为你处理了更多配置工作，因此你无需配置底层软件，就能直接开始派发任务。
摘自我们研究笔记的里程碑。Instinct 的日期标注的是观察到的公开发帖时间，而非确认的发布日期。
时间都去哪儿了
作为一项实验，我们把每一款主流助手都拉来做了测试，让它们在同一项晚餐订位请求上同台竞技：
同一个请求，让每款助手走过了各不相同的一连串搜索、核查与浏览器操作。Meta Muse 跑了 4 分 36 秒，其中包含九次直接调用 OpenTable API。Claude Cowork 用了 6 分 25 秒、57 次工具调用。Grok Bot 则持续了 7 分 40 秒。每款助手都成功在 A Mano、II Borgo、Doppio Zero 中的一家订到了位。
记录的是实际运行结果，并非通用排名。22 秒这一成绩是两次成功尝试的中位数。
任何智能体任务，底层都有大量工作在运转。执行框架负责管理对话、执行工具调用、处理错误，并把结果回传给模型。要弄清时间都花在了哪里，不妨看看 Grok Bot 最初 2 分钟是怎么度过的。Grok Bot 先是加载技能、检索记忆、搜索、查看餐厅页面，然后回报结果。仅一次浏览器运行就花了 2 分 18 秒，依次核查了 A Mano、Il Borgo 和 Doppio Zero。
例如，这里可以看到 Grok Bot 那次运行的更细致拆解。
模型本身也很关键。近期在规划、工具使用和长程推理方面的进展，让这类任务变得更可行。Opus 4.5 一代把更强的智能体能力与上下文压缩结合了起来：当上下文填满时，把工作的精简记录继续带下去。像 CompactionRL 这样的研究则更进一步，训练智能体跨越这些压缩步骤来工作。
而在这一切之下，你仍然需要一个快速的模型来跟踪目标、从错误中恢复，并定期验证任务是否在正轨上。
我们是如何做到的
我们使用 Pi 作为智能体框架。它精简的系统提示词和四个内置工具为我们提供了一个简单的起点，并留有空间为预订任务添加我们自己的工具。
- 并行检查相互独立的选项
检查餐厅可用性应当并行进行。预订步骤确实取决于这些检查返回的结果。我们的拆分方式是：将相互独立的检查一起运行，然后利用结果来决定如何继续。
该技能指示它并行检查相互独立的选项，这样它就能从多家餐厅收集结果，而不必等一项检查完成后再开始下一项。
在我们优化后的运行中，浏览器/API 部分耗时 6.8 秒，而早先的 Grok 追踪记录中为 4 分 31 秒：在这些记录的类别中大约相差 40 倍。这一比较综合了模型、框架和执行路径的多项改动；它并未单独分离出该技能本身的效果。
- 加速剩余的模型调用
每当助手回到模型时，它都要等待另一次响应。Cerebras 上更快的推理缩短了这些停顿。我们优化后的运行使用了 Qwen 3.8 27B；保存网站操作流程也减少了模型在运行过程中需要自行推算的内容。
有些步骤仍然必须按顺序进行。智能体需要先拿到页面结果，才能决定如何处理它。更快的推理不会让缓慢的网站瞬间加载，也不会省去电话验证步骤，但它可以减少在观察、决策和行动之间反复出现的停顿。
- 保存智能体学到的东西
大量被浪费的精力，都花在摸清网站怎么运作上：调用一个工具，观察页面，预测下一步，再调用另一个工具。智能体四处试探，弄明白会发生什么，然后继续执行任务。到了下一次访问，它可能又会把这一整套摸索工作重做一遍。
在运行这个助手之前，我们给了智能体更多上下文，并把它学到的东西转化为一项技能。这让模型获得了走完预订流程的指令，而不必自己去摸索每一步。在我们的测试中，这把工具调用次数减少了 80% 以上。
关键的区分在于哪些东西会被复用。我们可以把浏览网站和查看预订的流程保存下来。可订状态、价格以及是否需要信用卡，仍然需要实时查询。弄清路线的工作发生在计时运行之前；它并不会消失。
更快的个人助手
在它能如此出色地处理每一项差事、让我们拥有一个现实版 Jarvis 之前，还有更多工作要做，但只需想象一下，当这些已经让人觉得神奇的智能体再快上 10 倍时会是什么样。
总之，得走了！我们还有个晚餐预订要赶。
设计：Halley Chang。特别感谢 Shintaro Matsui、Joyce Er 和 Alycia Cary 的反馈。