Etched:AI经济时代的推理系统
推理正成为AI最重要的基础设施市场,Etched以专用Transformer硬件和全栈掌控,在三年内从逆向押注走向10亿美元合同与生产负载。

推理正在成为AI领域最重要的基础设施市场。随着模型推理时间更长、智能体承担更多工作,经济效益将越来越取决于系统每美元和每瓦特能产生多少令牌。
推理市场的新势力
Etched正是为这一市场而生,团队在三年内所取得的成就堪称非凡。
从三位哈佛辍学生带着一个反主流观点起步,如今已成长为推理计算领域的有力竞争者。Gavin Uberti、Rob Wachen和Chris Zhu于2022年创立公司,他们的赌注是:Transformer将成为AI的主导架构,而专用硬件能更高效地运行它们。随着市场演变,这一理念已扩展到更广泛的推理领域。
如今,Etched已拥有可工作的硅片和系统,并签署了超过10亿美元的客户合同。公司设计了完整的机架级系统,包括网络、交换、冷却、电源和软件,从而掌控了整个技术栈,并能围绕两个最关键的指标进行优化:每美元令牌数和每瓦特令牌数。
上个月,Jane Street成为首家接收Etched机架的客户,并已开始运行生产负载。Jane Street运营着金融市场中技术要求最高的基础设施之一,性能、可靠性和延迟是业务的核心。在这样的环境中从首片硅片走向生产负载,是Etched推进速度的重要证明。
低电压推理的启示
这一进展背后的架构,也是最初吸引我深入了解Etched技术细节的原因。过去几个月里,我与团队共度了许多时光,我们很快因他们技术路径中的一个方面而结缘,这让我回想起作为电子工程学生时的论文工作:在极低电压下运行晶体管以大幅降低功耗,这被称为低电压推理(LVI)。动态功耗大致与电压的平方成正比,因此将电压减半可使该部分功耗降低约4倍。
Etched也让我忆起职业生涯的起点。1997年,我在圣何塞的赛灵思公司担任工程师,当时能真切感受到一种兴奋氛围——我们的芯片正助力构建互联网的网络基础设施。首次访问Etched总部(同样位于圣何塞)时,我也有类似感受——只不过Etched面前的机会似乎要大上几个数量级。许多员工已搬到办公室对面的公寓居住,最近一个周五下午,那里直到傍晚依然热闹非凡。那种专注与使命感,更像是一家早期软件公司,而非半导体公司——即便Etched正在攻克科技领域最艰巨的工程与制造挑战之一。
团队与执行速度
我和Rob恰好在巴黎的RAISE峰会上相遇。我们花了一个下午的部分时间,挤在小咖啡馆里与潜在客户交流。令我印象深刻的是,他能自如地在芯片架构、网络技术、客户需求以及生产系统部署的运营细节之间切换。这种广度充分说明了Etched正在成长为怎样的公司。打造一颗优秀的芯片已属不易,而围绕它构建整个系统——并将该系统交到客户手中——则完全是另一项挑战。
Gavin、Rob和Chris组建了一支能够同时胜任两者的团队。如今,Etched汇聚了曾助力谷歌TPU、英伟达GB300系统及Meta MTIA加速器投入生产的工程师,其经验覆盖芯片、软件、系统、制造及部署全链条。
这种深厚的经验正体现在执行速度上。半导体公司通常一代一代地构建,每个周期需数年时间。而Etched在短短三年内压缩了极多成果:从对推理的逆向押注到可工作的芯片、完整的尖端推理集群、可观的签约需求,以及生产负载。
这种速度至关重要,因为推理市场仍在成形,竞争只会愈发激烈。AI经济将需要海量的推理算力,而Etched有机会成为其中最重要的基础设施供应商之一。
我们很高兴能与Gavin、Rob、Chris及整个Etched团队携手,迎接未来的挑战。
https://www.kleinerperkins.com/perspectives/etched/