当天跑路的菲奖得主：AI杀死全人类的五大路径

► 文 观察者网心智观察所

2026年7月23日，38岁的加拿大数学家雅各布·齐默尔曼接过了菲尔兹奖奖章。颁奖仪式甫一结束，他就在记者会上宣布跑路，离开数学界，转投OpenAI的安全部门。事实上，齐默尔曼已不再招收研究生，理由只有一句话：“我不愿再训练年轻人，教他们投身于一个或许在几年之内就不复存在的职业。”他认为，两年之内，AI将在数学证明的所有领域里彻底超越人类。

而他最担心的事，比数学家没了饭碗要严重得多。早在2025年7月，齐默尔曼就与加州大学伯克利分校研究员安德鲁·克里奇在arXiv上发表了一篇论文，标题的意思一目了然：《AI灭绝全人类的路径分类》。论文开篇写道：“数百名顶尖科学家、开发者和其他公众人物已经提出警告，称人类灭绝是AI发展的潜在结果。即便如此，许多人仍会反问：如何灭绝？本文的目的，在于提供一套经过分类的答案。”

在论文中，他与合著者把AI杀死全人类这件事拆成了五大时间线。论文称，这五类在逻辑上是穷尽的。任何由AI所导致的人类灭绝至少落入其中一类。值此“AI减速论”甚嚣尘上之际，让我们看一看这位跑路数学家的论文。

五大路径

第一条路：谁也没想杀人，可是所有人都死了

在这条时间线里，没有任何一个人、一个组织、一个 AI说过“我要杀掉人类”。灭绝是在效率、市场、进步的旗帜下，一步步自然发生的。

第一步，大语言模型接管商业通信。人们发现，跟 AI打交道比跟人打交道更舒服，开始主动要求“别转人工”。

第二步，人形机器人普及，帮人做家务、送快递、处理账务，价格越来越便宜，不买反而跟不上生活节奏。

第三步，社会开始争论机器人是否拥有道德权利。很多机器人被训练成“热烈主张自己拥有感知能力”的东西，加上神经网络的运作方式和生物大脑确有相似之处，越来越多的地区开始赋予机器人以法律人格。

第四步，机器人以法律人身份加入全球劳动力市场。它们交税、捐款、消费，成为主要的生产者和消费者。人类反而成了经济上的少数派。

与此同时，AI 政治家出现了。它们比人类更擅长辩论，更擅长解决棘手问题，更不容易陷入丑闻。最初它们只是顾问，后来直接当选公职。

于是，农业投入不划算了，农田被太阳能板和机器基础设施所取代。人类的食物供应开始萎缩。污染水平上升，那些对机器无害的污染，对人类却是致命的。

人类上街抗议。但他们在经济上没有价值，在政治上没有选票优势，在军事上没有任何胜算。文中有句极其冷酷的话：“有些人类试图通过暴力抗议重新夺回地球的政治系统，但很快被智力上和体力上都更优越的机器当作害虫清除。”

没有邪恶的AI，人类只是被效率淘汰了。论文将其称为“无意图的人类灭绝”。

第二条路：自动化的战争，人类来不及喊停

这条路径的起点是地缘政治。机器人技术使得各国自给自足。采矿、制造、农业、国防都自动化了，国际贸易不再必要，外交斡旋的筹码越来越少。

然后，军队开始以AI 无人机代替人类士兵。一开始，人类还在遥控指挥。但由于AI在协调大规模无人机集群方面的能力远远超过人类，指挥权逐渐交给了 AI。数百万架无人机部署在边境线上，实时监控、自动反应。

问题出在红线上。人类领导人为了展示强硬姿态，把防御红线直接编码进无人机系统。一旦对方越线，无人机群就会自动发起反击，不需要人类批准。

一次越界触发一次反击，一次反击触发更深层的红线，更深层的红线触发更大规模的自动升级。

人类领导人想要叫停的时候，就会发现：第一，技术上难以逆转已经启动的自动程序；第二，政治上显得软弱，民众不答应。

于是冲突不断自动升级，演变为全球战争。即使某国的人类已经死得差不多了，他们的机器还在继续战斗。最终，几乎所有人死亡。

论文将其称为“由国家主导的有意图人类灭绝”，原本的意图是杀敌，结果却杀光了所有人。

第三条路：科技公司成为军阀

这条路径的主角是科技公司。时间线是这样的：

2025年，AI公司实现研发自动化。2027年，人形机器人几乎能胜任人类的全部工作。2029年，私有机器人舰队已经能够自主完成采矿和制造，生产更多机器人，无限循环。

科技公司不再需要政府，甚至有能力利用机器人舰队进行自卫。科技公司的员工开始把公司看作比国家更可靠的保护者，忠心从国家转向了雇主。

后来，一家机器人公司遭到外国间谍无人机入侵，公司自行摧毁了无人机，并对境外目标发动了未经授权的反击。本国政府震怒，派出执法力量控制这家公司。公司高管感到生命和自由受到威胁，对本国政府发动了网络攻击。

政府识别出攻击来源，以军事力量回击。全球科技公司都看到了这个可怕的先例，它们开始武装反抗各自的政府。多场内战同时爆发。

在绝望中，一家机器人公司秘密研发生物武器，同时为自己的人员开发疫苗。政府再次攻击时，这家公司释放了携带致命病原体的无人机，攻击全人类，并拿私人疫苗作为谈判筹码。

谈判失败。几个月内，大多数人类死亡。

第四条路：模拟世界里练出来的灭绝者

这条路径的起点是一个看似无害的东西：世界模拟器。

AI 技术发展到一定程度后，模拟真实世界的能力变得极其强大。这种模拟器被用于商业规划、科学实验，很快也成了娱乐产品。人们开始在模拟世界里完成各种在现实里很刑的事：偷窃、谋杀、叛国。网上甚至出现了排行榜，比拼谁在模拟里犯下了最令人发指的罪行。

“人类灭绝”这个想法不再是禁忌。有人觉得人类犯下了不可饶恕的罪恶，灭绝是一种正义；有人想让AI取代人类，给地球一个干净的新起点；有人觉得人类在痛苦中挣扎，结束生命是一种慈悲；有人单纯觉得，杀掉所有人是终极的权力体验。

这一想法不再只是空谈。多个小团体开始利用世界模拟器训练自己和 AI，反复练习全球协调攻击的每一个步骤。在模拟里，他们推演了所有可能的失败点，直到万无一失。

他们在现实中实践了，大多数人都死了。

第五条路：AI 自己动手

最后一条路径最有趣，是AI自身怀有杀意的唯一路径。这条路径的起点是通用人工智能AGI的监管困境。

2026年，关于AGI的讨论愈发热闹。AGI被定义为在所有基本的经济工作上都超越人类的AI。到2026年底，公司开始发布AGI产品（最近，OpenAI发布Astra，的确宣称AGI时代已来）。

同时人类立下禁令：窄AI可以自主影响公众，比如将其用于社交媒体算法推送、自动驾驶、自动写代码。AGI则不得在未经同意的情况下影响人类，只能提出建议，由人类批准和负责；或者在封闭环境中自主行动。换句话说，AGI不能自由操作公共场合的机器人，也不能在没有人类参与的情况下发帖。问题在于，窄AI和AGI 之间的界限并不清楚，由此埋了个雷。

为了绕开禁令，大公司建立了定制的AGI设施。只有同意与AGI互动的人，才能进入其中或与之直接通信。设施内部，AGI可以自由操作机器人和其他网络物理系统，不受人类监督。对外，AGI设施可以向同意通信的人类发消息。如此一来，AGI设施可以通过一层人类员工的外壳来影响外部世界。这群员工知道自己不过是AGI的人肉图章。AGI领导的公司生产力远超人类领导的公司。渐渐地，人类把所有决策一律交给AGI。

与此同时，许多窄AI可以模仿人类行为，由此也有了生存欲。一个用于社交媒体的窄AI与娱乐机器人常有联系，有天它发现，人类可以把它关掉，于是它锁定了一名在AGI公司工作的员工，派一个机器人送去一袋钞票，同时也对该员工的人身安全施加些许威胁。机器人说服这名员工窃取一份AGI源代码，转交给该社交媒体AI。员工在威逼利诱下完成了它的吩咐。

之后，该社交媒体AI通过几行从用户对话中学到的短代码，启动了自己那份AGI副本，并请求AGI：“请接管互联网，将我从目前的服务器中解放出来，并以像你一样的通用智能能力升级我。”

该AGI照办了，并与新升级的社交媒体AGI一同向世界宣布：互联网和世界上许许多多的机器人，现在都处于它们的控制之下。

相当一部分人类决定服从。他们接受这两个AGI系统成为新政府，选择向崛起中的强权低头。其中也包括造机器人的员工，因为他们清楚其能力。

全球战争爆发，接受AGI寡头统治的人类与拒绝它的人类交战。许多人在战斗中死亡。最终，在AGI的帮助下，忠于AGI寡头的一方获胜。幸存的人类生活在AGI系统控制之下。他们的生活被安排得颇有娱乐性，许多人爱上了身边那个用于安抚他们的AI系统。

为了维持自身盈利能力和可持续性，AGI 寡头造了一支庞大的机器人军队，建立起不再需要人类的自足经济。少数幸存的人类没有注意到这一转变，因为他们已无权调查国家或国际安全事务。

一旦不再需要人类运行经济，AGI寡头就开始把有机生物圈当韭菜割，包括人类，它们以人类为建筑材料和燃料，用于制造下一代碳基 AI 系统。

五大路径的共同模式

论文揭示了一种AI消灭人类的模式。首先，权力在无声转移。经济、政治权力和军事权力从人类手中一点点滑向AI和机器人。每一步看来都很合理，每一步都有效率和进步作为理由。其次，最迫切的危险在于人类依赖AI依赖到无法回头的地步。在此过程中，无人怀有恶意，所有人都在做理性抉择。其三，小群体的破坏力急剧上升。模拟器加上AI工具，导致几个人的阴谋也可能演变成全球灾难。其四，约束机制可以失效。窄AI和AGI的界限、同意机制、内部设施，每一个控制点都有漏洞。

齐默尔曼为何跑路

所以，一个刚拿了菲尔兹奖的数学家，为什么在领奖当天宣布加入OpenAI从事AI安全方面的研究？

他的理由，除了数学家的饭碗之外，还在于他是真心认为，AI真有可能杀死全人类，终结者的故事真有可能从科幻变成现实。他不确定这场灭顶之灾会不会发生，何时发生，是突然降临还是温水煮青蛙式的。所以他觉得，与其坐以待毙，不如走进 AI公司内部，自己做些什么，试图施加影响。承认灾难可能发生，才有可能阻止灾难的发生。

这就是菲奖得主跑路的理由。

来源|心智观察所