当数学之美在AI中变得有用

数学的无用之美
数学有时被称为无用的美，这种说法不无道理。现实世界极其丰富而复杂，既充满结构，又充满变化。20 世纪 50 年代末，史根华（Gen-Hua Shi）的老师姜泽涵曾说过一句令人难忘的话：“透过微分方程的窗口，数学家看到了现实世界的光。”这句话指向一个深刻的思想：如果我们想让数学去描述一个不断变化的现实世界，微分方程或许就是其中最重要的语言之一。

与代数相比，几何提供了更丰富的结构语言。

由陈省身发展的现代微分几何，使几何、拓扑与微分方程之间的联系变得空前紧密。丘成桐将非线性微分方程与几何结构之间的关系推进得更远。到了史根华这里，问题继续朝着高阶非线性、多层覆盖与不连续结构的方向延伸。

但即便最美丽的数学，若只提供描述而无解法，在现实世界中仍是不完整的。知道哪些微分方程描述一个系统，与真正能解出这些方程，是两件截然不同的事。许多数学长期以来被视为无用的美，并非因为它未能描述现实，而是因为我们缺乏能力去求解那些由描述所引出的复杂方程。

数值计算作为数学问题求解

计算机的发明改变了这一局面。伯克利及其他地方的早期工作推进了有限元方法，用离散化物理问题的数值近似取代了对解析解的需求。此后，O. C. Zienkiewicz、Y. K. Cheung 等人帮助奠定了其数学基础，将有限元发展为求解物理微分方程的通用框架。

随着超级计算机的兴起，人们对数值计算的期望变得极高。似乎只要网格足够细、计算机足够快，日益复杂的现实问题终将得以求解。有些人甚至相信，离散化与计算能力的进步可能会使传统数学分析中的许多内容变得不那么重要。

真正攻克难题的人很快发现，仅靠增加计算量远远不够。高阶非线性、不连续性、大变形以及复杂边界条件，往往导致一个简单的结果：要么计算无法进行，要么结果不准确。我在上世纪80年代末遇到石根华后进入这一领域。他的方法并非仅仅细化网格，而是重新思考如何表示复杂问题。数值流形方法采用多层覆盖，将数学覆盖与物理覆盖分离，使得局部数学处理和物理不连续性可以独立处理，再通过计算组装起来。这为传统数值方法难以解决的问题提供了一条不同的路径。

陈省身很早就认识到这种多层覆盖思想的重要性。他所看到的不仅仅是另一种工程计算方法，而是一条可能将几何、微分方程和数值计算更深度融合的路径。石根华后来常回忆起他与陈省身那次著名的“叩头谈话”。那次交流的深层含义很简单：即使数值流形方法最终成为强大的数值方法，在成功后仍应忠实于数学。

“超级计算机撞墙”的历史给我们一个重要教训。数值计算固然能帮助我们求解微分方程，但解是否正确、精确、稳定、收敛且高效，最终仍取决于数学。因此，在数值计算中，数学并非“无用的美”。它不仅美丽，而且具有深远的价值。

数学与人工智能的实用之美

人工智能将这一故事又向前推进了一大步。AI之所以变得如此强大，一个重要原因在于，它未必有意识地重组了数十年来数值计算中发展出的几个重要思想：多层覆盖、数学结构与物理实现之间的分离、局部计算、迭代过程，以及从局部结构构建全局结构。

但AI引入了两项真正重要的进展。

神经网络本质上是可学习的数值计算。

通过深度流形，我们可以看到数学在AI中呈现出一种特别有趣的形式。与传统物理模型不同，它并不僵化地预先规定每个变量和结构的含义。但它也不是无结构的自由计算。它占据了一个微妙的中庸地带：数学的使用既不过多，也不过少。保留了足够的结构使学习连贯，同时留有足够的自由度让系统去学习。

这或许就是AI时代数学真正的“实用之美”。

架构即方程

我们在小学应用题中便已习得这一课。面对同一问题，方程列得好坏，直接决定了解题的难易。一个恰当的方程或许只需一两步便能求解，而一个欠妥的方程则可能绕许多弯路。每多一步，就多一次出错的机会。

在人工智能领域，神经网络架构本质上在做同样的事情：它决定了学习方程如何列写。 Transformer之所以如此强大，一个重要原因在于它将这一方程列写得相对得当。它构建了一个宽广且可学习的计算结构，使得数据中复杂的关联能够通过训练逐步建立。

Transformer将方程列写得相对得当，但这并不意味着其每一部分都已是最自然、最简洁或数学上最严谨的表述。数值计算的历史告诉我们，一种方法收敛，并不自动意味着其背后的数学形式已是最优。有限元与超级计算的发展历程也给我们以警示：当计算遇到瓶颈时，问题未必在于计算机还不够快。有时，真正的症结在于方程本身列写得不够好。

过去两年间，我们在系统性地将人工智能、神经网络及其训练纳入数学与数值计算的框架方面，取得了不错的进展。下一步，便是将这一框架付诸实践，并加以验证。

本文现已被收录于 Deep Manifold, Two Years Later: 2024–2026. 的 架构 部分之下。