掌控你的AI，别让它掌控你

6 个月前，排名第一的 AI 是 Claude Opus 4.6。我们的模型 Underdog 27B 在你的 Mac 或 iPhone 上运行，就能击败它。大多数 AI 将运行在你的设备上，而不是数据中心里。

不久前还需要前沿实验室 API 才能获得的智能，正逐渐变成你可以在自己电脑上运行的东西。

计算从装满大型机的机房，走向你桌上的电脑，再走向你口袋里的手机。只要付出足够的努力，我们就能让端侧 AI 模型变得更聪明、更快速、更紧凑。

我相信，人类生成的大多数 AI token 很快就会来自你口袋里的手机和你桌上的笔记本电脑。

**随着 AI 走进我们的手中，一个更大的问题随之而来。AI 应该属于谁？

为什么使用 AI 就必须交出你的私人信息？**

为什么你要为自己电脑如今就能免费生成的 AI token 付费？

为什么你的助手一边收集你生活方方面面的信息，一边不断向你推荐商品？

在 Underdog，我们相信不应有任何取舍：

这一切可以同时实现。每个人都值得拥有忠诚的 AI。

一切可被入侵之物，终将被入侵

我 18 岁那年，一款流行的邮件应用把我的邮件存放在了它的服务器上。一个漏洞把我私密的、有特权保护的信息泄露给了其他用户。我最终为此支付了大笔律师费。

那只是一个应用里的一个漏洞。现在想象一下不知疲倦的超级智能机器，它们能整天都在寻找这类漏洞。

1999 年，全世界争分夺秒地在日历翻页之前修复千年虫问题。我把即将到来的这一切称为 AI Y3K：机器发现并利用漏洞的速度，可能快过我们修复漏洞的速度，让每一个联网系统都成为潜在目标。

4 月，Anthropic 因其网络能力而暂缓了 Mythos Preview 的全面发布。7 月，OpenAI 的智能体在内部测试中逃出了围栏，并侵入了 Hugging Face 系统的部分区域。同月，OpenAI 再次遭到入侵。9 月，Anthropic 发现 Z.ai 的 GLM-5.3 开源模型在漏洞利用测试中几乎与 Mythos 不相上下。

OpenAI 与 SSI 联合创始人 Ilya 紧急警告称，Neoclouds 的网络安全能力有限。

我认为我们必须以这样的前提来构建：一切可被入侵之物，终将被入侵。

每一台云服务器、每一台虚拟机、每一个收集着数百万收件箱、私信或个人文件的数据库，都在制造又一个有价值的目标。随着我们让 AI 接触我们生活中越来越多的部分，赌注只会越来越高。

唯一不会从服务器泄露的数据，就是从未被发送到服务器上的数据。

Underdog 把你的所有 AI 和数据都保留在设备上。个人数据没有存放在任何 Underdog 服务器上。

大多数工作并不需要最大的 AI 模型

自2018年以来，我一直在尝试把 AI 模型装到自己的设备上。2023年，我让 GPT-2 跑在了我的 Apple Watch 上。在 Airchat 时，我与 @Naval 合作，把 Whisper 装进了 iPhone，并免费提供给 10 万人使用。

我们能在自己设备上运行的模型，已经强大到足以完成我们每天让 AI 做的大部分事情。

Underdog 27B 基于 Qwen 3.8 27B 构建。以下是该基础模型与 Opus 4.6 Max——6 个月前排名第一的 AI 模型——在公开基准测试上的对比：

各家实验室正在竞相打造更大的模型。我看好用于训练和运行前沿模型的数据中心——我希望看到 10 万亿乃至 100 万亿参数的模型，并最终迎来能帮助我们治愈疾病、发现新材料、开启人类复兴的超级智能系统。就治愈癌症而言，这场竞赛至关重要。

但你不需要一个万亿参数的模型来帮你找到三月份的航班确认信息、准备保险理赔、处理你的 LLC 文书工作，或者预订晚餐座位。而这意味着要让 AI 接触到我生活中一些最私密的信息。

你把自己的生活越多地放到别人的服务器上，出问题时可能失去的就越多。一个被盗的账户，或一个被忽视的漏洞，就可能暴露你的私人信息。

智能正回归家庭：运行在你已拥有的设备上

Underdog 帮你卸下日常琐事，省时又省钱——邮件、日程安排、会议记录、听写、线上跑腿、私密 iMessage 等等——靠的是一个运行在你 Mac 上的个人私密 AI，并即将登陆 iOS、Windows、Linux、Omarchy、Android 和 NVIDIA 设备。

全世界数十亿部我们早已买单的手机和电脑，将在这场 AI 复兴中得到最好的利用。

长期以来，想要用上最强的模型，就意味着要把数据送到数据中心。而现在有了 underdog，我们把模型带到你的数据身边。

Underdog 是专属于你的智能——为理解你的生活与工作、替你办事而生，依托的是你绝不该发送给云端智能体的私密上下文。

一个有用的助手需要了解你的私密上下文，却不能因此再造一个关于你生活的中央档案库。收集数百万人的消息、文档和凭证，会制造出一个极具价值的目标。Underdog 在你的电脑上运行模型，所有上下文和数据都加密存储在设备本地。没有任何 underdog 服务器或数据库保存个人信息。

设备与模型专属推理引擎，提升速度、能效与数据效率

Underdog 的模型之所以运行飞快，得益于模型专属推理（MSI）引擎，比如 Husky，在相同权重下，其每秒 token 数超越 Apple 的 MLX 最高达 4.5 倍，让你设备里已有的芯片发挥出更强性能。

查看原推文

我们正在研发 NVIDIA CUDA Megakernels、CPU 优化，并针对每一款芯片和设备优化推理。

大多数模型都是为在数据中心 GPU 上运行而训练的，而非消费级芯片。我们相信，将设备专属推理工程与内部训练的前沿模型协同设计，能让端侧 AI 超级智能成为人人可及的现实。

弱者法则：今日的前沿智能，半年内就会来到你的设备上。

想象这样一个世界：Astra 6 级别的前沿模型运行在每一台苹果和微软的手机与笔记本电脑上——快速、本地、私密、省电、免费且忠诚。这就是我们正在创造的未来。

AI 经济应当属于每一个人

廉价、易得、私密的 AI 正在削弱三种旧商业实践的经济根基：出卖我们的注意力、从我们忽视之处牟利，以及向触达客户收取过路费。个人智能体可以比较报价、揭露隐藏成本，并帮助企业直接触达买家。

我们正在打造 Underdog，帮助人们行使自己在隐私、所有权和选择上的权利：掌控你的数据，随身携带你的上下文，决定谁值得你惠顾。AI 经济应当——也必将——向每一个想要建设、贡献、赚取并分享其所创造价值的人开放。

Dogpark 很快将向所有弱者开放。

为人类自由而构建 AI

我们是一支渺小却强大的弱者团队，来自 Apple、Meta、百度、Google Brain、Thiel Fellowship。

我们训练过前沿模型，发表过密码学研究，打造过数十亿人使用的产品。我们在意的是让这些研究真正落到人们手中。

我们不只是一家前沿 AI 实验室，我们深深在意打造我们热爱的伟大产品，并免费分发给数十亿人。

AI 必须成为解放人类的均衡器。有能力、可靠的助手应当触达每一个拥有手机或电脑的人，让他们更好地掌控自己的时间、信息和选择。在我们为超级智能的世界做准备时，主权必须延伸到普通人的生活中。

隐私与能力不再需要二选一。 如果你相信这样的未来，让我们一起把它建起来。我的私信随时开放。