“人工智能教父”为何反对人工智能：AI会伤害甚至毁灭人类？

近日，谷歌副总裁兼工程研究员、Vector研究所首席科学顾问、多伦多大学名誉教授、伦敦大学学院（UCL）盖茨比计算神经科学中心创立者、2019年计算机界最高荣誉“图灵奖”获得者、被称为The God father of AI(人工智能教父)，在AI研发领域可谓无人不知、无人不晓的Geoffrey Hinton，从工作了10年的Google辞职，引发全球科研界轩然大波。

头衔有点长的Hinton于1947年出生于英国，曾对AI充满乐观。在过去，科研人员普遍选择输入逻辑和推理程序。而他却选择了在当时非常边缘的“神经网络理论”，仿照人类脑神经系统，让计算机自己学习，自持、自主地进行工作。

2012年，他和两名学生建立“神经网络”，通过让电脑分析上万张照片，学会识别鲜花、狗、汽车等常见物体。其开发的“Capsule Net works(胶囊网络)”原理成为现代很多AI科技基石。Google慧眼识珠，以4400万美元价格收购了这三人创建的微小公司。

正当基于Hinton开发的技术基础，使AI大发展、获得巨大收益之时。他却感到害怕：AI可能对人类造成直接的物理威胁。形象易懂地说，就如同科幻影片里那样，AI会伤害甚至毁灭人类。

Hinton向媒体坦言：自己后悔开发AI，AI可能给人类带来毁灭。“我常找借口安慰自己，就算我不研究这个领域，也会有其他人研究。”然后苦笑道：“我是真的找不到方法，怎样防止坏人用AI做坏事？”他说，现在不管是个人还是公司，都允许AI生成自己的代码，然后再自动运行。AI很可能从大量数据里学到意想不到、人所不知的东西，这种后果很可怕，或许未来某天，它就会成为杀人机器。

目前的AI局限性较大，属“弱人工智能”。不久前，专家们认为“强人工智能”尚需30-50年时间。而Hinton认为：现在我觉得，可能只需20年或更短时间，（强人工智能）就会出现。

现在，不仅是Hinton，越来越多最顶级科技专家对AI越来越担忧：2023年3月，包括Elon Musk在内的全球一千多名顶级科技界领袖签署联名信：要求所有公司停止研究比GPT-4更强的AI至少6个月，希望通过这段时间搞清AI的危害和应对方法。

几天后，“人工智能促进协会”也发表公开信警告AI可能带来危险。签名人里包括微软的首席科学家Eric Horvitz。OpenAI的首席执行官也承认：一个偏离方向的、超级聪明的“强人工智能”可能给世界带来极其严重的危害。

既然这么多科学泰斗都感到危机，那么，AI和其它多学科的研发速度会不会停下来、慢下来呢？

Hinton担忧，科技巨头正陷入一场可能无法停止的（科研）军备竞赛，因为大家无法得知他人是否停止研究，稍有迟疑、滞后就意味着在市场上竞争失利，这就是AI领域的囚徒困境。公司竞争越激烈，AI发展的速度就越快。

这些顶级科学家们的担忧，还仅仅是在人工智能领域。而现实世界，除AI之外，人类的科学研究正在众多方面取得越来越多、越来越快的突破：正在研发的“人造子宫”将代替女性自然分娩；Google旗下DeepMind的AlphaFold算法，已破解几乎人类目前已知的、超过2亿种蛋白质结构；日本九州大学林克彦生物学团队，成功培育出世界上首批完全由雄性小鼠提供遗传物质的、只有父亲没有母亲的小鼠；全球首批由机器人操作人工授精的两名女婴诞生，将使试管婴儿的成本降低70%……这仅仅是近期几个月，不断涌现的令人震撼的科研成果。

科学和技术的发展与进步之快，真有些我们这些肉身人类“生命不能承受之重”的趋势。进行些发散性联想：如果将人工智能、基因科学、生命工程、量子物理、航天科技等多学科前沿突破整合起来，会对人类的未来产生怎样的影响？

科幻影片《X战警》在看似荒诞的剧情之下，有着严肃的哲学思考和科学基础：如上所述，把众多学科的前沿突破综合起来，“X战警”式变种生命体出现，就只是时间问题，这不禁使人想到Y.N.Harari《未来简史》预言：科技进步所创造的新人类种群，将淘汰我们这些智人后裔。而科幻影片通过炫酷打斗特技，向我们展示：平衡被突破后，必引起物种间为生存竞争而进行殊死搏杀。

再看个案例：Twitter有博主把自己整个财务运作交给GPT-4，GPT登录其所有银行账户和信用卡，扫描了10000多笔交易。发现了每月的无用订阅80.86美元，GPT自己起草了法律通知函，进行电子签名，并用USPS快递给对方，取消了订阅会员。然后，在从伦敦飞往纽约的美联航账单里发现了36.99美元WiFi收费，并查证其未能正常工作，就起草了有力且坚定的法律信函，在48小时内获得了航空公司的退款同意。接着，GPT与Comcast谈判折扣：Comcast最初只提供50美元优惠，AI精明地争取到100美元折扣。博主很高兴地说：“在不到24小时里赚了217.85美元，并且还有十几个其它纠纷正在等待处理。”

笛卡尔说“我思故我在”，从AI的迅速发展与“人工智能教父”辞职，发散出一些联想和议论，真希望是抛砖引玉，更多头脑去思辨我们的未来。而不是把思考与工作都抛给AI，自己捧着手机刷短视频、傻笑着娱乐至死。不要再重蹈古罗马的覆辙：罗马人把生产都压在奴隶身上，自己的心灵和品性都在娱乐中日渐消沉……后来，罗马灭亡了。

•（本文仅为作者个人观点，不代表本报立场）

美逸君