LLM的下一词预测与人类认知有本质区别:生物认知依赖实时物理过程与生存利害,而模型只是静态数据上的计算,不构成意识。

JOHN ENNIS(@JOHNENNIS)观点长文 · 已翻译 · 约 10 分钟
阅览室 · AI 最佳实践#世界#生物#模型#预测#计算#人类#依赖原文

“可见之物的不可逃避的样态:至少如此,若再无其他,通过我的双眼思考。”——《尤利西斯》第三章,詹姆斯·乔伊斯

《尤利西斯》一直是我最爱的书之一。我是爱尔兰人,乔伊斯的句子对我来说从来不只是文学。它们承载着家族历史、政治悲痛和一段悲剧性的过往。我的曾祖父在1916年复活节起义后,因在英国拘留营中染上肺结核而去世。当我读乔伊斯时,那些文字承载着为理想押上生命的人们的记忆,提醒我与一个远在我之前存在、也将在我之后延续的世界之间的联系。

在《尤利西斯》第三章中,斯蒂芬·迪达勒斯沿着桑迪蒙特海滩行走,闭上眼睛,继续前行。贝壳在靴下嘎吱作响。屏蔽可见之物并不能屏蔽世界。现实依旧通过潮水的节奏和自己心跳的节拍抵达。“闭上眼睛,去看。”他对自己说。他得到的却是另一种不可逃避的样态:可闻之物,一件接一件,时间无论他看或不看都在压迫而来。世界并不等待他的许可。它就在那里,正如乔伊斯在那一章稍后所写的,“无始无终的世界。”

在最近一次关于人工智能的对话中,我想起了海滩上的斯蒂芬。

对方的论点大致如此:“大语言模型预测下一个词。人类也做同样的事。我们不过是生物版的自动补全。”

这个论点听起来冷静而现代,在硅谷的派对上很受欢迎。但它把一种共同的能力误认为完整的解释。当你与语言模型互动时,你遇到的并不是一个新的心智。在声音背后,是庞大的人类表达遗产,从历代思想家留下的文字和代码中汲取而来。答案可能有用、出人意料,甚至具有原创性。

但一个听起来鲜活的声音,本身并不能证明意识的存在。

提示之间

想一想,当你停止输入时,大型语言模型会发生什么。

什么也不会发生。

权重静静地躺在集群上,就像图书馆书架上的书籍。没有闲思,没有对刚才话语的消化,也没有等待。当你发送提示时,系统在静态矩阵上计算概率分布,生成一串令牌,然后停止。

常见说法称AI无法在调用之间保持状态,这其实没说到点子上。工程师可以存储对话历史、检索外部数据,并在没有用户的情况下以自主循环运行模型。持久计算是真实的能力。但持久计算与持续存在并非同一回事。

明显的反驳是,人类也会“断电”。我们经历无梦睡眠和全身麻醉,并不会在手术口罩前撤销人格。但这种反驳只有在两种间隙属于同一种暂停时才成立。

它们并非如此。睡眠和麻醉是一个永不停止运转的有机体的状态。新陈代谢继续。体温得到调节。化学时钟滴答作响。你醒来时,身体一直在运转,这就是为什么这个间隙属于一段生命,而不是终结它。人格附着于那个持续存在的生物系统,而非不间断的意识流。

一个停止的模型并非睡着了。它内部没有任何东西变得更糟、更好,或在等待。没有系统处于某种状态。只有磁盘上的一个文件。

当你停止说话时,光线仍会抵达你的视网膜。声音仍会找到你的耳膜。椅子仍压着你的背,饥饿和疲惫仍争夺你的注意力。你不需要新的提示来继续参与自己的存在。你已经不可避免地沉浸在一个持续的现实之中:无休无止的世界。

大脑的物理时钟

第一个前提在毫秒尺度上比在小憩尺度上更容易看清。

在数学心理学博士后期间,我研究了SPEED(皮层下通路促进专业技能发展),这是一个生物学上详细的类别学习模型。我们研究了刻意、费力的表现如何变得自动化。该模型使用微分方程描述相关脑区的活动,并使用学习规则描述其连接的变化。我用Fortran编程了尖峰神经元网络,随时间向前求解这些方程。

在那个层面,时间不是附着于信息的标签。它是机制本身的一部分。

Transformer在数学上表示序列位置。其计算不会以所描述事件的速度展开;一段关于十秒的文字不会花十秒来处理。序列顺序在静态张量上以空间方式编码。

在神经系统中,间隔就是所发生之事。在尖峰时间依赖可塑性中,如果神经元A在直接连接上比神经元B早几毫秒放电,突触会增强。如果神经元A比神经元B晚几毫秒放电,突触会减弱。

秒也很重要。在多巴胺依赖的学习中,最近的神经活动在树突棘上留下资格痕迹。多巴胺必须在该痕迹仍活跃时到达。如果强化来得太晚,痕迹衰减,学习失败。

计算机当然也遵循物理规律。区别不在于物质与非物质。而在于生物认知依赖于在真实持续时间内发生的持续物理过程:化学扩散、离子通道重置、临时痕迹衰减,以及节律实时同步。LLM在冻结的数据排列上进行计算。

闭上史蒂芬的眼睛,可听的世界仍会到来,一个接一个瞬间。关闭提示,序列就不再是序列。没有下一个。

错误为谁而计?

这让我们回到了预测论证的严肃版本。

现代神经科学常将大脑描述为一台预期引擎。神经系统并非被动记录感官输入,而是不断猜测即将到来的信号,每当现实出乎意料时便更新其内部模型。这并非闲聊之语,而是一项严肃的科学理论。

即便在此观点下,预测之所以重要,仅因为它服务于一个在动态环境中求生的事物。生物体预测接下来会发生什么,以便觅食、避险,并维持内部系统的平衡。

软件中的下一词预测采用了同样的基础数学,却剥离了有机体。相似性仅停留在表面。赋予预测意义的核心要素在代码中缺失。统计模型在外部数据集上最小化损失。生物体则最小化意外,因为在严酷的世界中,未能如此便意味着死亡。

错误为谁而计?

测量与意义

在感官科学领域,我职业生涯的大部分时间都投入其中,仪器读数与人类体验之间的鸿沟是不可避免的。

气相色谱仪能以任何味觉都无法匹敌的精确度,盘点一杯葡萄酒中的挥发性化合物。但它尝不出酒的味道。它没有味觉,没有口渴感,也没有肝脏。

风味并非化学组分清单。它涉及味觉、嗅觉、质地和温度,在一个活生生的感官系统中整合而成。这种整合对某个人意味着什么,还取决于食欲、预期、记忆和环境。意义不仅仅是符号之间的关系。它是对有机体而言重要的事物,意味着结果对产生它们的系统具有直接后果。

这就是为什么学习者进入世界的方式,比它见过多少文本更为重要。新生儿并非等待数据集的空白架构。孩子降生时,是一个为呼吸、进食、反应和依恋而组织起来的身体,一个在拥有语言之前很久就有需求的有机体。

从世界的静态记录中学习,与以必须在该世界中生存的身体进入那个世界,有着根本性的不同。其中一种设置,是在一个永不停歇的世界中,生命悬于一线。另一种,则是一个优化目标。

能动性与欲望

软件行业用代理一词来描述能够选择行动、调用工具,并在多步骤中追求任务的系统。这是一个实用的工程术语,它描述了一种真实的能力,但并未确定系统是否拥有自身的利益。

动物无需用户解释为何饥饿重要。若不进食,它会饿死;若找不到庇护所,它会冻死。其行为根植于有机需求,而非外部指令。

选择行动和生成子目标,并不能证明某个结果对追求它的系统本身具有意义。服务器需要电力,身体需要葡萄糖。这种类比看似巧妙,直到你追问需求究竟在做什么。有机体的活动旨在维持那个正在行动的系统本身。调节并非对程序的外部约束,而是有机体在冷漠环境中继续存在的方式。

这就是关键的不对称性。运行在服务器上的模型并非在维持自身。数据中心冷却系统和电网才是。切断电源,权重中没有任何东西在试图恢复供电。它并非具有目标函数的代理,而是一个无所失的系统。

记忆并非数据库

我所知的某些事物,与习得它们的环境密不可分。

我清晰记得博士论文答辩前一周,刮胡子时发现核心证明有个漏洞。我望着镜中的自己,告诉自己一定能解决,一周后如期毕业。那天早上我见了导师,下午漏洞便补上了。

但那些不仅仅是两条日志条目:证明失败证明修复。它们属于一段承载着职业与个人风险的人生。

身体会铭记那些付出代价的事物。在大脑中,杏仁核的去甲肾上腺素,连同多巴胺和皮质醇,调节着突触的持久性。你记得那些触动你的事物,因为事件关乎一段已然展开的人生。

乔伊斯从另一角度领悟了同样的真理。在桑迪蒙特海滩,斯蒂芬并非查询内部数据库。他解读周围的感官印记(海生植物、海藻、一只生锈的靴子),因为历史与悲伤无论他是否留意都会降临。那天晚些时候在都柏林图书馆,他意识到自己身体的分子已更新换代,反思着穿越时间的连续性:“我如今是另一个我……我因记忆而存在,因为形式不断变化。”

对乔伊斯的详尽计算分析,并不等同于拥有一个故乡。对悲伤的描述,也不等同于承载着一段家族史,而一句简单的话便能使其骤然鲜活。我曾祖父在1916年后的离世,并非《尤利西斯》的文献注释。这正是这本书对我如此重要的原因。那些情感联系并非附着于文字上的装饰性联想,而是文字在人类生命中具有意义的根本所在。

结语

这一切并非反对使用AI。用它来编写代码、测试想法、分析信息、挑战思维。我时常使用AI,也用它撰写了这篇文章。

我所拒绝的是,欣赏工具的同时却要贬低我们自身的观念。“生物自动补全”并非关于意识的深刻理论。即便完全接受预测处理理论,它也只是关于生物如何在永不停歇的物理现实中维持生存的学说。当前模型所欠缺的并非生物组织;它们未能满足一个过程的根本前提——这一过程不会等待被查询,且其下一时刻承载着真实的利害关系

这些前提并不要求碳基生命。一个持续运行的软件循环,若能感知自身物理载体,在严格的能量约束下调节硬件,并将错误视为对自身生存的损害,那将是截然不同的情形。我们不得不以不同的方式讨论这样的系统。

目前部署的任何系统都远未达到。对话历史不是新陈代谢。看门狗脚本不是饥饿。磁盘上的文件不会思念你。

记住桑迪芒特海滩上的斯蒂芬。他闭上眼睛,世界并未消失。贝壳在他靴下碎裂,潮水依旧汹涌,他的血液继续流动。当他再次睁开眼时,乔伊斯赋予他一句完成实验的台词:“没有你,它一直在那里:并将永远如此,世界无尽。”

当你关闭LLM的提示窗口时,没有任何东西压迫而来。没有声音,没有黑暗,没有持续时间,也没有在寂静中等待的记忆。没有你,世界并不存在。那里根本没有任何世界。

充分利用这个工具。

只需记住属于生命的东西:时间中的躯体,有代价的记忆,以及无尽的世界。

已读完 · 本文由熊猫易读翻译重排