AI时代真正的分水岭不是会不会用工具,而是有没有元认知:先建认知架构,再用AI放大而非替代它。

NATHAN(@NATHANNN_CRITCH)观点长文 · 已翻译 · 约 8 分钟
阅览室 · 认知与决策#认知#思考原文

主导 AI 时代的人,并不是在学 AI。我知道这话听起来不对劲,毕竟每一位科技领袖、LinkedIn 上的效率大师、大会上的主题演讲者都在嚷嚷“这是颠覆性的改变!”他们说要去学工具、学提示词、考证书,全套都来。马克·库班说,如果他今天还年轻,他会把每一分钟空闲都用来学 AI。

但我认为这几乎完全错了。学AI是把错误的动词安在了错误的对象上。我花了三年时间,在学校学区、董事会会议室和政府办公室里观察这个错误带来的后果,而“禁止 AI”和“AI 助力学习”这两派的争论者,都漏掉了一个关键点。

关键点在于:在 AI 时代如鱼得水的人,是先学会了如何思考,工具只是放大了他们本就具备的东西。 而那些挣扎的人(那些上了课、拿了证书,却依然无法让 AI 产出任何有价值东西的人),缺的正是让这项技术变得有用的能力:撬动自身智力去创造价值的能力。用科技圈常说的话来讲,这就是评估、判断,并在模糊不定中坐得住、直到你把它想明白的能力。

这是一种认知能力,而令人难堪的是,我们当今社会恰恰缺乏这种能力。我想分享一个我在实践中看到的差异,它既渗透在我们的年轻人身上,也同样渗透在我们的劳动力中。

发展心理学中有一个概念,几乎能解释我亲眼见证的每一次 AI 成功与失败。

水平发展是学习新事物。新工具、新事实、新技能。就是往手机里装更多应用。每一个30天精通 ChatGPT 的课程都是水平发展。想象一下,你是在往同一个杯子里倒更多的水。

垂直发展是改变你思考的结构。不是加更多的水,而是换一个更大的杯子。这就像一位记住更多开局定式的棋手,和一位开始以不同方式看待整个棋盘的棋手之间的区别。

如今我们有了严谨的证据,说明搞错这一区分会发生什么。正是这些证据促使我现在发表这篇文章,因为这种 AI 落地方式正在制造一道裂痕,而这道裂痕的背后,是对这项技术缺乏真正的理解与教育。

我在那些房间里看到的事

我会分享几个真实世界中事情如何发展的轶事,然后我会分享那些比我更严谨、更注重实证的人所做的研究。

轶事:一个学区推行 AI 工具,并对所有人进行培训。纸面上看,采用率很不错。但那些本就具备较强评估性思维能力的 10-15%,用这些工具做出了了不起的成果。其余的人在几周内就停止使用这些工具。学区向董事会交差时打了个勾,但实际的认知影响只是他们所宣称的一小部分。

同样的模式在企业中也在上演。这现在已经过时了,但(轶事 2)哈佛商学院追踪了 BCG 的顾问——地球上最挑剔的公司之一的精英专业人士——使用 AI 的情况。当 AI 自信地给出错误答案时,依赖它的顾问比不使用它的顾问准确率低了 19 个百分点。他们看到自信的输出,就停止了思考。

如果这种事发生在 BCG 顾问身上,那它就在所有地方发生。

但最能说明问题严重性的证据,出现在今年一项针对27,000名中国中学生的研究中(轶事3)。研究人员追踪了学生在两年内获得生成式AI使用权限后所发生的情况——没有任何指导或引导。在五个月内,一半使用AI的学生已经完全把作业外包了出去。这意味着他们完全停止了脑力劳动。

这导致高利害考试分数下降了24%。分析了底层数据的Benjamin Riley将此称为“50%问题”。我强烈推荐大家去读一读。一半获得AI工具的学生,用它们来自动化那些学习恰恰所需的认知过程。作业分数上去了,真正的学习却下来了。AI制造了Riley所说的心智伪装——看起来像进步的表现,而底下真正的能力却在被侵蚀。

当所有人都在对这些负面结果义愤填膺时,我真心认为这项研究并没有证明AI有害。它证明的是,没有认知发展支撑的AI是有害的。这两者之间有着天壤之别。那些学生把AI当作思考的替代品,因为没有人教过他们两者的区别。没有人去建立那种能把捷径变成工具的认知能力。

请容许我用讲故事的方式来做这个类比。想象一下,你把车钥匙递给一个15、16岁的孩子,说“你可以开车了!”——没有任何驾驶培训、没有学过道路规则、也没有通过驾照考试。我们当然不会这么做,对吧?汽车是危险的,我们必须教会年轻人做负责任的驾驶者。

禁止这些年轻人(或更年长的人)使用AI,就好比说“因为你可能出事故,所以不许你开车”,却不提供任何学习机会,让他们之后成为安全的驾驶员。我们使用汽车、认可汽车的用途,是因为自主性、人身安全,以及每个人都受过驾驶训练所带来的信任。没错,事故依然存在,但什么时候事故曾让我们在一个州里禁止开车?我们会把人送去交通安全学校,在更严重的情况下,强制吊销驾照。我们建立了一套以教育和透明为基础的流程。而今天,我们对AI并没有这样做。

今天,这个区分极其重要。一个用AI来跳过功课的学生(或工作者),是在把那个唯一能塑造大脑的过程外包出去。而一个用AI来压力测试自己的推理、挑战自己的假设、突破自己独自能记住的极限的学生,才是在按这个工具被设计的方式使用它。一个产生依赖,另一个产生成长,而自变量始终是操作它的那颗头脑。

无名之技

那么,这颗大脑要正确驾驭 AI,需要做到什么?在科学界,这被称为元认知,即对自己的思考进行思考。

这是一种能力:从机器那里收到一个自信满满、打磨精致的答案后,还能追问:这真的对吗?这从一开始就是正确的问题吗?有什么遗漏是机器不会知道要纳入的?

这就是让 AI 替你写战略,与让 AI 对你已经构建的战略进行压力测试之间的区别。你可以做乘客,也可以做飞行员。

我们的教育体系,从幼儿园到大学,就是专门为培养乘客而设计的。不过这个我现在不展开。

连创新者也搞错了

这里我要让一些人感到不舒服了。因为那些声称正在为 AI 时代重塑教育的学校,正在用更光鲜的包装犯下完全相同的错误。

以 Alpha School 为例。他们的模式是用 AI 把核心学业压缩到每天两小时,然后把一天剩下的时间释放给项目和现实世界活动。这种效率令人印象深刻,但看看那两小时里发生了什么。学生们仍然在按固定课程推进,只是更快了,因为机器在以恰当的节奏把内容喂给他们。那是在一台设为 2 倍速的跑步机上做横向发展。你没有改变锻炼方式来练出更强的肌肉,你只是改了时钟。

没有人在问:我们是在培养学生超越他们所运行系统的思考能力吗?还是我们只是在生产同样的认知画像,并庆祝它只需要两小时而不是七小时?

在 AI 时代构建大脑,关乎的是培养让 AI 变得有用而非危险的认知能力。这意味着三件事:

首先,这意味着要学会与困惑共处。一个人思维方式每一次重大飞跃,都需要经历一个旧有认知方式失效、新方式尚未到来的阶段。那段空白期感觉像失败,实际上却是成长。回避这种不适感的人会停滞不前,而主动拥抱它的人则会不断进阶。

其次,这意味着要练习判断力,而非生产力。AI 可以负责生产,而我们的职责正逐渐变为判断。如果你整天消费 AI 的输出却不加批判性地评估,这块肌肉就会萎缩。如果你每天哪怕只花 20 分钟,刻意去质疑、压力测试、反驳机器给你的东西,它就会成长。

第三,这意味着要问不同的问题。不是我该怎么用这个工具?——因为那是横向的。而是这个工具看不到什么?——那才是纵向的。不是“我怎样才能得到更好的输出?”而是“我解决的问题到底对不对?”

如果你从这篇文章中只带走一个观点,那就带走这个:

别再试图学 AI 了。
开始学怎么思考吧。

你驾驭复杂性的能力,你与模糊性共处(并从中找到出路)的能力,每当机器变得更聪明时,其价值都会随之上涨。

认知科学家丹·威林厄姆说得再清楚不过:“AI 工具不应替代那些学生通过自己动脑会从中受益的任务。只在你已经知道怎么做的事情上使用 AI。”想想这句话。先动脑,先构建你自己的认知架构。然后,你才能成为一个善用强大工具的人,用它来拓展你的认知能力,而不是取代它们。

所有人都在告诉你去学工具。我要告诉你的是,去打造那颗让工具真正有价值的头脑。如果这项工作让你感兴趣,那正是我的全部使命!赋能人们成为最好的自己,无论心智还是身体。我希望每个人都能借此机会构建自己的认知能力,从而用现有的工具将其放大。这才是前进之路,对我们所有人而言。

Nathan Critchett 是《认知架构:当机器替你思考时如何思考》一书的作者。他是洛杉矶县消防局成员,三年来一直在全国各学区和机构研究 AI 能力与人类认知能力之间的差距。

已读完 · 本文由熊猫易读翻译重排