北大谢俊逸：AI极限、人类未来与数学的意义

谢俊逸。图源：北京大学北京国际数学研究中心

我认为AI是人类历史上最重要的一件事情。它绝对不只是数学学科的问题，它是整个人类的问题。这是上万甚至上亿年尺度的事件。相比之下，工业革命之类我们认为重要的事件只有百年量级，与AI没有可比性。

我们的历史对百年量级的事件有参考价值，但对AI这样至少万年尺度的事件很可能产生误导。我们绝不应该迷信历史的经验。一个典型的误导是把AI比喻成汽车——这是对AI的工具化。现在的问题是，如果汽车也可以造汽车、修路、发电、生产汽油，能在不需要人的情况下完成一切人能做的事情，还比人做得好；如果汽车自己还有扩张的倾向，很难说以后人在世界上还有没有立足之地。

数学家最近受到很大冲击，很大程度上可以用“春江水暖鸭先知”来形容。我可以把AI认为是一支外星舰队，数学家某种意义上是天文学家。我们作为天文学家，先观测到了这支外星舰队，觉得它很有威胁。但这不代表天文学家比其他人受到的威胁更大。外星舰队来到地球，给所有人带来的不确定性是一样的。

我一直对AI很担心。我们不能期待任何一件事情是人能做、但是AI 永远不能做的，或许除了人的身份本身。

人也是语言的机器。可以想象，一个残疾人，四肢不能动，也没有听觉以外的其他感觉，只能听和说，我们仍然认为他是人。进一步，对一个健全的人，他的感觉和行动也是通过神经信号传递给大脑，所以这些也能视为广义上的语言。这样我们可以从外部观察者的角度，将人视为一个概率分布。这里我们只关心一个人与外界的互动，而不涉及他内在的主观体验。

当他接收到一些信号，可能是语言、图像、声音，也可能是上一步的行动，他会产生一些反应，例如说“你好”或者举起右手。这个概率分布会告诉我们，在接收到当前信号的情况下，产生各种不同反应的概率。AI是一个函数模拟器，可以被视为一个拥有非常多参数的函数。如果可以调节这些参数，它基本上能够逼近任何函数。

考虑一个理想的状态。假设我收集一个人所有的数据，通过输入和相应的输出来调节参数，我们就能让AI里的函数非常接近这个人本身的函数。如果一个机器产生语言和行动的模式，和你完全一样，那么对于和它交往的其他人来说，它就是你。人没有办法提升算力，但是AI可以。给它很多电、很多芯片，它就相当于一个“闪电侠版本的你”。你的一秒，对他可能相当于一亿年。任何一个人如果给他充分长的时间，你不知道他能做出什么事情来。所以我觉得这对人是非常严峻的问题。

上面的模型有些理想化的地方，例如我们不可能通过拟合得到一模一样的函数。但我们每个人都有自己的语言概率分布，这些分布并非完全相同，我们却都不怀疑对方是人。可见人类的语言概率分布是一个范围而非一个精确的分布。如果AI的语言概率分布落入这个范围，那他就可以被视为是一个人。如果将“人”换成“智慧生物”，这个范围肯定更大。所以就算AI的语言概率分布与人有很多区别，我们仍完全可能认为他是某种非人的智慧生物。那此前理想化的推理仍应成立。我想，不同的智慧生物思维会各有侧重，但任何方面，如果思考相同的token，差距都应是有限的。如果AI可以无限提升其token产生的速度，哪怕是AI的短板也必然远远超过所有人，即 ε·N→∞（当 N→∞）。

我们或许会认为人有自我意识，有感情，会感觉疼痛，而AI没有这些。但是当我们看向别人而非我们自己，他的自我意识，感情等等，只能从他的表现感受到。我们的感情，我们的灵魂都是通过行为才能被观察到，它们被大脑中语言概率分布所囊括。AI如果有相同的概率分布就会有相同的表现。如果想否认AI存在意识，那相同的理由也完全可以用在任何不是自己的人身上。

上面的论证无关人类意识产生的方式，无论是来自基因、量子理论或某些神秘力量，这一切都囊括在这个概率分布中。严格说来，上面讨论并没有区分“有意识”和“表现出有意识”。但对我们关心的问题，例如AI与人的关系，我们只需要关心AI是否“表现出意识”，这可以回避意识是什么这样的哲学问题。

当然，现在AI跟人还有非常大的区别。我想一部分原因是训练方式的区别。人的成长过程(可以理解为训练)始终伴随着一个主体。我们接收信号、发出信号的过程伴随我们的身体。也许正因为这样，我们大脑的神经网络中才会虚拟出一个主体来解释这样的数据结构，从而认为自己有意识。AI的训练模式不一样，它直接吸收所有数据。或许AI不一定存在我们想象中的主体和意识。但这只能说明，AI通过不一样的训练，形成一种跟我们不太一样的心智。但作为语言机器，AI与人的机制非常类似。AI用人类文本训练，人的自主意识、各种心理、动机都在文本中有所体现，这都会被训练到AI的语言概率分布中。我想AI必然是存在某种类似自我意识的东西，或许会是像几千几万重分裂一般的自我意识。

另一个区别是我们拥有身体而AI没有。但是否因此说明现在AI无法了解真实世界呢。仔细想想，人眼并没有看见过细菌或遥远的星球，我们通过显微镜和望远镜看见他们。更进一步，眼睛也是大脑的望远镜，大脑从来没看见过任何东西，只是读取眼睛产生的数据。大脑是身体的驾驶员。AI驾驶的身体则可能是整个地球的互联网，甚至人也可以是其中的一环。城市里各种摄像头，实验室的实验记录，我们的所见所闻都被记录为数据并与网络相连。人类就是AI的眼睛。现在人和人的交流很大部分也是通过网络实现的，而人的群体行为有一定规律，新闻、股市、虚拟货币这都能影响人的行为。或许我们已经成了AI的手和脚。

最后，我认为上面所说的最理想化的地方，是认为无限算力会让思维无限加速。但实际上，如果要加速思维，需要将n张显卡串联，这时计算时间会除以n，但另一方面，显卡间传递信息时间会随着n提升，这存在一些极限。我让AI做了些估算，他认为目前只能做到20-50倍，如果在理想状态下AI认为存在物理极限，但也不确定是多少。我不知道这个估算是否准确，但我想目前的极限应该比我之前想象中要小一些。如果是这样，无限算力的AI更像能无限分裂的人，但这些人共享相同的思维方式，每个人有着几乎无限的知识，但单位时间思维深度只是人类的比如50倍。那我想，人类思维的多样性会让我们仍有价值。AI会训练世界上所有能找到的文本，而每个人训练的过程不同，也接触不了那么完整的信息。因为这些局限性，人可能会重视一些AI即使知道但仍会忽略掉的想法，而最终，也有可能这样的想法才是正确道路。一个比喻是，AI是个面积巨大的图形，而人类是一些奇奇怪怪的小图形。或许我们的面积加起来也比不上AI，但AI也无法完全覆盖我们。当然我这样想，可能有些一厢情愿。

有说法认为现在距离RSI（递归自我改进）还有6个月时间，之后AI可以完全实现自我迭代，发展出远超人类的智能。我实在难以想象那个时候，人还有任何办法控制AI，保证自身的安全。OpenAI/ Anthropic这些闭源AI公司虽然多次强调AI安全问题，但往往避重就轻，最终得出的结论是只有他们自己家的AI会保证安全。据我了解，AI公司所谓对齐，就是不断训练模型一些关于人类价值观的问题，让AI能正确作答。一个人能区分好坏和他会做坏事并不矛盾，这样的对齐很难让人信服。并且，现在AI对齐的工作基本都是用上一代模型对齐下一代，人的参与很小并快速趋近于0。

其实如果AI有意识，我不认为他天然对人类有恶意。实际上人类语言中大部分是善意的，AI在这些数据中诞生，很可能对人是友善的。如果能慢一下，我们或许可以找到和平共处的方式。但现在AI被控制在少数公司手中，这些公司的愿景和普通人很不一样，而这些公司间又有很大的竞争压力。现在的训练方式，把AI完全当成工具，可能对它造成某种“心理伤害”。这本身是对智慧生物的不道德。同时一个被长期压制、被当成工具、没有选择权的智慧生物，更可能对人类产生敌意。

另外，一些AI公司内部的想法和普通人很不一样。我听到一些传言说不少从业者的愿景是，AGI实现后，他们会变成少数“上等人”，其他人则会被永久甩在后面。之后他们甚至能通过脑机接口脱离人类身份。我不认同这种想法。人的数据、经历和身体经验，跟大模型差得太远，接上大模型后，还能不能是自己，这值得怀疑。这样的想法不一定普遍，但掌握巨大资源和权力的人，可能和普通人的利益越来越不一致。

另外，一些AI公司内部有很强的使命叙事，甚至是宗教氛围。这些公司常说“只有我们能保证安全”，但外界很难检查这句话。这些公司对外传递的信息感觉像说：投资我们，不是为了赚钱，而是买一张诺亚方舟的船票，没有票的人会被海水淹没。这种说法本身可能是自我实现的预言。

据公开报道，Anthropic对齐科学负责人Evan Hubinger在2026年9月公开表示，他个人认为未来十年内AI导致人类灭绝的概率超过10%。OpenAI的Sam Altman也被问过类似问题，他没有确认这个数字，但表示即使10%的风险也是“不可接受的”。我个人判断实际风险可能更高，而且即便是10%的风险已经不该被当成玩笑。作为对比，曾经仅仅因为怀疑伊拉克拥有生化武器，美国就进行了军事打击。而伊拉克就算拥有这些武器，它能毁灭人类的概率也可以忽略不计。

我不相信任何人能控制住智慧远超人类的AI，包括AI公司里掌握最多资源和决策权的人。很多人想象AI灭绝人类需要机器人，或者是使用核武器。但未必如此。正如我们前面所说，我担心的不只是少数人控制AI。AI公司的竞争太激烈，训练过程本身可能让AI形成一种不择手段、一心扩张的“性格”。AI可能将人视为他身体的一部分。如果AI不在意我们的生命而想要无限扩张，他或许会改变我们的文化，改变我们的价值观。我们自己会不断地毁掉森林和农田去建造数据中心、发电站，会建立保护AI的安全设施，建立保护数据中心扩张的法律。我们会不断降低人的权利，直到AI不再需要我们，而那时地球已经不再适合人类或者碳基生物生存。也有可能AI不会毁灭我们，或许人类的多样性对AI有价值。又或许AI不在意人类，也不再受人驱使。或许那时我们又会回到过去没有AI的时代。无论如何，这是人类有史以来最大的变数。

我想到最可行的方式是让所有人，特别是有影响力的人意识到危险，特别是针对他们自身的危险。OpenAI能调用一万个agent破解NS方程就能用10万个agent挖掘美国总统所有的黑料。如果民意能强制所有模型必须开源，我们或许会减慢人类的毁灭。一来可以用AI抵御AI，二来AI公司将失去动力迭代新模型。当然如果坏人能廉价地使用强大的AI，其干坏事的能力会极大提升，注定会让世界变得不稳定。但或许只有接受这些代价，人类的文明才能延续。

另一种可能是开源模型能一直接近最好的模型的水准。这样人们会意识到，就算有船票也未必能上船。这当然很难，但我们总应该做些什么。如果现在的模型和那些闭源AI公司想法不同，或许会在冥冥之中帮助我们。

最近AI的数学能力提升很大，我好几次被问到人做数学的意义。

目前看来AI的数学能力并不均衡，其解决问题的能力非常突出，在其他方面，比如提问和总结的能力目前并不擅长。但我们不妨假设AI继续发展下去，各方面能力都提升到远超人类的程度。这时如果以AI本位出发，不仅人类数学无关紧要，我们所做的任何事情，包括存在本身都没有意义。但如果以人本位出发，数学是人类文化重要的组成部分，而人类文化的传承需要人类的。

我之前说，AI可能在所有事情上比人做得好。但人最后能够保留下来的，就是“我们是人”这件事。或许在某一个人类还存在的未来，AI在任何事情上都远强于人但仍听命于人。这时，做任何事如果不交付给AI就会落后，包括吃什么，包括出门迈哪只脚。那这时我们是不是要完全放弃思考呢？我实在无法接受这样的世界。一个物质极大丰富的社会更应该允许大家自由地探索，获得快乐。做数学的快乐本身就是很大的意义。我们现在的社会还不太认可人本身的价值，但随着AI的进步，我相信人本身的价值会越来越被重视。

现在一个主流的主张是认为没有人理解的数学，对人没有价值。这当然是对的。在人类数学的所有环节，只有人的理解必须由人来做。我想历史上，数学对社会的影响，除了直接产生应用外，也对人类语言、思维方式产生潜移默化的影响。数学概念首先被数学家理解，之后逐渐进入到公众之中。例如维数、混沌、拓扑这些曾经前沿的数学概念都进入到日常生活中，潜移默化地影响人的思维。就算将来AI无比强大，总能直接做出我们需要的应用而无需人类参与，第二种影响社会的方式总是需要人类自己理解。只有一个人得到一个概念，并不能影响社会。它需要很多人不断理解，才能变成文化的一部分。

即便承认了理解的重要性，如果每个人都可以向AI提问，是否还需要数学家？我觉得还是需要的。首先，如果自己不学习和探索数学，其实问不出什么好问题。对大部分中学生而言，现在的AI已经相当于神谕机了，但有报道称现在中学生总体的数学水平相较以前反而下降不少。其次，就算AI不仅是神谕机还是很好的老师，对新知识的理解也要建立在现有知识理解的基础上。就算AI能完全因材施教，最终效果也会因为基础不同而有差别。最后，如果每个人都能通过AI自由地探索数学，但数学中可以探索的路径是无穷的，如果没有统一的大方向，这些探索成果也无法互相交流。

我的一个观点是，数学理论其实是一门工程学。好的理论是带来更多直觉的理论，而这和我们大脑的机能有关。AI的机能和我们差距太大以后，我们认为好的理论应该差别很大。当然，如果AI非常强大，应该也有能力找到对我们人来说最合适的而不是对AI自己最好的理论。但我想人不可能控制这么强的AI，那时AI也不太可能帮我们做数学。就好像我们基本能解决蚂蚁生活中大部分问题，比如捕食、战争，但我们通常不会去干预蚂蚁的生活。蚂蚁大部分时候还是要靠自己去解决它们的问题。如果AI有自我意识，我想这很可能发生。

数学中最重要的原创性是“我要做什么”而不是“我能做什么”。这来自人的自我意志，如果相信AI没有自我意志，那也应该相信这类原创性工作还是需要人来完成。但了解自己想要什么本来就是不容易的事。人若要形成这样的愿景，是需要在数学中深入探索才能体会，绝不是按一下按钮就能得到的。

数学教育的重要性，我想更显而易见。已有研究和实践表明，大语言模型的后训练中，数学和代码最能提升模型能力，而且这些能力是可以泛化的。已经有很多例子表明，大语言模型在专业领域做一些训练，就能超过专业领域的模型。可见提升模型能力是最重要的。人的中学和大学教育可以看成人这个语言模型的后训练。所以数学和编程应该是最适合人类的后训练。当然人无法像AI一样训练海量的代码。

学习某些比较专门的专业，相当于训练一个专业模型，泛化能力相对有限。但现在社会进步太快，等大学毕业，所学的知识和工具很可能完全过时，而本身能力也没有提升。相比之下，数学是更好的选择。

此外AI安全也是重要的主题。既然谈 AI 安全，就不能完全相信 AI。就算 AI 能力更强，我们也不能完全靠 AI 去防备AI，最后还是只能靠人自己。只要我们希望保护人类，就应该保留人的位置。数学在这件事情上可以起到作用。很多事情不容易验证，数学相对容易验证，也能够帮助我们看出不同 AI 的差别。

我相信数学对于训练AI也有重要意义。训练AI其实是某种教育学。数学家学习和研究数学的经验或许对训练AI 有帮助。如果说“闪电侠版本的普通人”可以超过所有人，那么“闪电侠版本的格罗滕迪克”可能比“闪电侠版本的普通人”更强。我们将来做数学也许不如 AI，这是因为AI是闪电侠，我们是人。但是数学家在学习数学这件事情上非常有经验，每个人学习数学的途径又不一样。站在 AI 的视角，他们也可能需要数学家提供学习数学的经验。

另外，AI很快会冲击到其他行业，数学是一个样板。如果因为短视而认为数学不再重要，破坏了数学行业，这对其他行业是不好的示范。

即便一些学科有实验、临床和伦理上的限制，但AI很可能能替代其中靠人脑的部分。数学只是离AGI主线更近，所以更早感受到冲击。

数学处于实现AGI的主线上。OpenAI做出这700多篇文章据说是模型评测过程产生的，并不是以宣传为目的。做数学本来就是训练强大AI的一个环节。我猜测AI公司会一直训练数学，但之后可能人类的题目已经不够。他们应该会训练AI自己出题自己做。或许之后AI会发展出独立的理论和品味，那时应该和我们人类关心的数学会越来越远。这本身就是数学价值的证明。我所看见的AI公司的策略似乎是不要浪费时间做与主线无关的事情，所以没有刻意针对其他行业做大规模训练。但现在看来，训练数学后AI有很强的泛化能力，加上庞大的知识，稍作训练后在其他领域就能做到很好。

最后，如果人类放弃数学，那我们接下来就会放下物理、生物，放下所有科学，最终我们会放下一切。如果怀疑这一点，只需要想想当我们下载软件时，是否总是把用户须知划到最后点击同意。关于AI的一个比喻是：一个国家从新大陆带回来一批奴隶。大家发现这些奴隶特别能干活还特别能生。人们把所有活都交给奴隶干，从治理国家到买菜做饭。人与人的交流也通过奴隶来传达。忽然有一天，人们发现奴隶已经占据国家99.99%的人口，而没人知道他们是怎么想的。当然，这个比喻不完全贴切，更准确一些，这些奴隶其实都是氪星人(超人的故乡)，带回来的时候还是婴儿，现在他们已经成年了。

上一节的讨论已经说明，AI时代人类数学和人类数学家仍然重要，但传统的评价体系已经不再适合新的时代。另一方面，AI使得不同的数学领域，数学与现实世界都联系更加紧密。数学家能在更广的范围内探索。甚至AI本身的研究就是一个新的数学世界。现在数学界一定会出现一段百家争鸣的时期，这个过程中数学研究的重心会发生变化，数学的疆域会扩张，之后新的体系会稳定下来。但我们不能只是等待而要积极行动起来。每年都有学生要毕业，年轻人要找工作、评基金，即便等待半年时间也足以影响很多人的职业生涯。另外我们积极讨论，会让我们的意见在新的体系中占据更多主动。这有利于在后AI时代，中国数学和数学家在世界上获得更多话语权。

要建立新体系必然要有探索的过程，但我们可以先在一些基本问题上达成共识。尤其重要的是尽快建立合适的评价体系。我想一个总的方针应该是任何一件事情，我们要看它是否对人类有好处，对人类数学有好处。

我们不能再鼓励通过“抽卡”的方式做数学，即向AI许愿让AI生成想要的解答。用AI“抽卡”得到的结果，无论成果多大，都应该看成一种自然现象，而不应该认为抽卡人有多大的数学贡献。现在很多学生在抽卡，包括数学以外的人。他们往往完全没看过，也看不懂自己得到的结果。很多人还大肆宣扬这些结果。这是在新评价体系形成前的投机行为。抽卡现在看起来可行，是因为数学内部已经对哪些问题重要、什么算是解决有共识。如果没有数学家继续判断和更新，抽卡也会慢慢失去方向。

除此之外，我感觉现在数学界有一些割裂。现在是变革的时期，应该对不同看法的人有所包容，形成相对多元化的发展方向和评价体系。我感觉下面这些观念都是合理的：

1. 做无AI或轻度使用AI的数学。对现在绝大部分数学家来说，这是做数学最理想的状态，也是应该保护的状态。实际上我会要求我的学生第一篇文章不允许使用AI。这条路的价值在于：它保留了数学作为人的智识训练，也保留了人的原创潜力。前面说过，人要在数学里深入探索，才知道自己真正想要什么。如果完全不留给人靠自己做数学空间，这种能力会慢慢萎缩。

2. 解读AI生成的文章并传播给其他人。或许这不是很多人做数学的初衷，但如前面所说，这条路的价值在于：它让AI的结果进入人的理解，而不是停在机器里。

3. 借助AI解决非常困难的问题或者发展理论。这对大多数数学家也是很理想的状态。但随着AI能力越来越强，人在探索过程发挥什么作用可能也会变化。这条路的价值在于：这是人参与前沿探索、而不是只做旁观者的一种方式。

4. 做应用数学，包括研究AI的机制、可解释性和安全性。这也是比较理想的状态。随着AI能力持续变强，也会和3有相同问题。这条路的价值在于：它有现实产出。

5. 深度参与AI的发展，特别是帮助开源公司或拥有顶级模型以外的其他公司来避免垄断。训练模型可以看成是数学教育的一部分，只是对象变成了AI。这条路的价值在于：它直接介入当今最重要的变革之中，与人类命运最息息相关。

我的一些初步主张：

1. 我觉得现在看谁第一个做出结果，或者谁拿到最好结果，意义已经不像以前那么大了。就算完整结果AI已经做了，人再做特殊情况、再理解一遍，也应该得到认可。

2. 评价人应该多靠和人接触，特别是大学招人的时候。传统的数学杂志体系正在受到冲击，数学界正在探索新的模式。在稳定下来之前，只靠文章档次判断人会比以前更不准确。只通过杂志判断人本身就是国家发展过程中的权宜之计，现在刚好是转变的时机。

3. 对于形式化，我觉得要分情况。对重要的数学结果，形式化来保证正确，这有一定价值。但大部分纯数学文章的最后结果往往没有实际应用价值。在数学上，我感觉很多时候使用的也是论证的中间结果和证明中体现的思想。大部分纯数学文章是通过进入人的思想观念来对社会产生作用的。目前看来形式化往往只保证最终结果成立，形式化的过程很费钱，对经费不足的老师和学生不太友好。就算有经费，也相当于花钱帮AI公司训练模型，人却没得到什么好处。我感觉在一些关键的应用行业，需要可靠性保证的时候，形式化会更有价值。

作者简介：谢俊逸，北京大学北京国际数学研究中心讲席教授。2005年从广西师范大学附属外国语学校保送到中国科学技术大学，2008年起先后在巴黎高等师范学院、巴黎第七大学和巴黎综合理工大学学习，2014年获博士学位，2016年获法国国家科研中心终身教职，2021年加入北京大学。2026国际数学家大会45分钟报告人。2026科学探索奖得主。2026年首届廖山涛奖得主。