AI 使人类首次能在不依赖有损抽象的情况下扩展复杂系统——直接处理现实而非现实的简化接口,从而避免抽象化带来的灾难性后果。

LEONARD TANG(@LEONARDTANG_)观点长文 · 已翻译 · 约 7 分钟
阅览室 · AI 最佳实践#抽象#系统#扩展#AI原文

超过一定复杂度的系统,以其原始形态是无法驾驭的。对于中央协调者而言,要理解、沟通并作用于这些系统广阔而混乱的现实,历史上一直需要抽象化,即那些

  • 一次性定义,
  • 跨情境反复应用,且
  • 为系统协调者简化现实的接口。

但以当今的技术,社会是否仍然需要抽象化才能运转?

目录

  1. 有损抽象及其恶劣后果
  2. 以算力换取抽象
  3. 无抽象系统及其当代对应物
  4. 迈向新社会的扩展之路

有损抽象及其恶劣后果

抽象化在日常意义上显然是有益的;我们每天早上在口袋里唤醒智能,却无需理解其背后的物理原理。但当系统中的抽象化扭曲了其所应用问题的丰富独特性时,它可能是有害的。 不妨回顾历史中的几个教训……

……在农业领域:

  • 抽象化:苏联农业集体化用统一的犁具、收割时间表、作物地块和生产配额取代了本地化的农业知识(metis),代之以集体农庄
  • 后果:土壤侵蚀、杂草泛滥、作物病害,最终导致数百万人饥饿与死亡。

……在生态领域:

  • 抽象化:普鲁士林务员剔除了原生植物多样性,以优化单一树种——挪威云杉(Normalbaum)——的生长与利润。
  • 后果:土壤养分迅速枯竭,病虫害易感性急剧上升,以及多代森林衰退

……在战斗机中:

  • 抽象化:美国空军通过汇总4000名飞行员的测量数据,定义了“平均飞行员”;战斗机驾驶舱依据平均飞行员的尺寸来设计。
  • 后果:由于驾驶舱人体工程学设计不佳,导致喷气式飞机坠毁事故频发:现实中没有任何飞行员能在平均飞行员的驾驶舱内舒适操作。

这些系统的协调者并非心怀恶意;但他们受限于自身的智力,无论多么卓越,也无法耗费时间去深入理解所管理系统中纷繁复杂的本地实际情况。受时间限制,人类协调者需要超越现实的抽象化。

不幸的是,他们选择的抽象化丢弃了大量对维持系统至关重要的丰富本地信息。

以计算换抽象

幸运的是,人类手中握有或许是史上最强大的技术——人工智能。关于AI如何造福世界,已有诸多论述,但一个较少被提及的视角是:AI能帮助我们无需抽象即可扩展——直接处理系统的现实,而非处理现实的抽象

与人类智能不同,我们可以通过增加计算轻松地生成更多人工智能。我们可以轻易复制中央协调者,并派遣她的多个副本去应对、推理并在系统边缘行动,让她们尽览所有细节的精彩纷呈。系统不再受限于通过人类可解释的渠道将信息从边缘传至中心;因此,我们不再受制于有损抽象及其后果。

这是一个极其宝贵的特性。

不再强制所有植树者以相同技术、按相同时间表种植相同的树木——这虽让中心轻松,却让边缘艰难——AI可以为每位植树者提供针对其具体情况的定制指令。也许这位植树者应推迟播种,为树苗遮阳,甚至根本不该种植标准树。

通过以计算换抽象,我们解锁了在规模上对局部现实进行推理和决策的能力。我们实现了摆脱有损抽象的系统协调。

无抽象系统及其当代对应物

若将此理念推向极致,相较于无抽象替代方案,当前社会的结构与模式显得令人困惑:

国家

  • 无抽象版本:政策与法规是动态的,且针对每个个体的独特境况量身定制,而非依据个体所属的类别。
  • 当前现状:政府按收入层级、移民资格、残疾标准等划分人口,并在每个类别内实施统一政策。

经济体

  • 无抽象版本:一个AI网络持续摄取并综合经济行为者的需求、偏好、资源与约束。生产与分配基于这些观察进行协调,而非通过市场。外部性、依赖性及其他非价格信息在摄取阶段即被纳入考量,而非通过监管、税收及额外抽象层级进行修补。
  • 当前现状:市场通过将经济信息压缩为价格来协调经济活动,丢弃了大量底层背景。某商品对谁重要?存在哪些替代方案?哪些活动依赖它?它引发哪些外部性?

企业集团

  • 无抽象版本:高效、积极的管理培育出广泛且多元的业务组合。总部员工与投资组合公司之比趋向于零。广度(公司数量)与深度(增长投资)得以同时实现。
  • 当前现状:要么a)对多元业务组合进行被动管理(如伯克希尔·哈撒韦),要么b)对狭窄、垂直的业务组合进行积极管理(如丹纳赫公司)。

公司

  • 无抽象版本:业务职能由扩散至边缘的高层领导数字副本所引导。它们通过(AI)与同级及高层(人类)领导自由沟通。中层管理已成为历史遗留。中间指标和OKR消失,古德哈特失效情况罕见。
  • 现状:公司通过丢弃信息来使自己易于管理。层层管理、标准操作程序、指标和OKR逐步削减信息,以便高层领导轻松决策。

教育

  • 无抽象版本:不让一个孩子掉队,也不让一个孩子被束缚——学生接受的教育是根据其能力、误解和学习风格独特且持续个性化的。
  • 现状:学生以统一进度学习统一课程。他们的能力通过标准化测试分数被有损地衡量。

个人

  • 无抽象版本:个体是理性行动者,不受认知捷径的束缚。 面对新挑战,相关问题的背景信息可以迅速从记忆中调取,并能实时进行基于第一性原理的全新推理。
  • 现状:个体易受偏见、启发式、刻板印象、习惯及其他认知捷径的影响,因为对每个决策细节进行仔细推理的成本过高。

迈向新社会

人工智能正在促成一种前所未有的系统协调方式,这是社会及其设计者至今未曾见过的。

苏联的规划者、普鲁士的护林员以及美国空军,都曾对其各自的系统——农场、森林与战斗机——进行有损的抽象化处理,因为观察、解读并影响这些系统混乱的现实,否则便无从着手。协调别无他法;而其后果是严重的。

但随着智能成本的持续下降,我们正日益逼近数据中心里“天才之国”的时代,曾经的不可能正变为可能。系统协调者如今可以直接处理现实。地方性知识不再需要被舍弃。边缘地带无需再扭曲自身去迁就中心。

有史以来第一次,我们或许能够在扩展系统的同时,不削减其中的人与地方。

已读完 · 本文由熊猫易读翻译重排