军事AI真正危险的地方，不是电影里那种“杀手机器人自己决定开火”。

更现实的风险是：AI给出一个看起来很专业、很快、很确定的建议。人在几分钟、甚至几十秒里来不及验证，只能跟着它走。最后出事了，责任还是人来背。

这才是军事AI最麻烦的地方。

它不是让机器完全取代人，而是让人类决策者在更短时间里，面对更多数据，做出更难判断的决定。

最反直觉的是：这场“AI军备竞赛”，预算其实没那么大

很多人一听“军事AI”，第一反应就是美国、中国、俄罗斯都在疯狂砸钱，好像一场新军备竞赛已经开始。

但看数字，会有点意外。

美国防部2025财年预算申请是8498亿美元。狭义AI预算大约18亿美元，只占约0.2%。就算用更宽的AI/机器学习相关项目口径，Deltek统计约209亿美元，也只是约2.5%。

也就是说，至少从公开预算看，它还不是冷战核武器那种“举国级别”的军备狂奔。

但问题恰恰在这里。

真正推动军事AI竞争的，不一定是真实优势，而是“对方可能已经领先”的感觉。

国际关系里有个词叫“安全困境”。意思是：一方说自己只是防御，对方看起来却像进攻。于是对方也加码。双方都觉得自己是在自保，但最后所有人都进入备战状态。

军事AI就是典型的安全困境。

因为你很难知道对方的AI系统到底有多强。核弹还能数弹头，军舰还能数吨位，AI模型和算法怎么数？今天领先三个月，明天论文出来，后天开源社区就复现一半。

所以最危险的不是“大家真的都跑得很快”。

而是：每个人都害怕别人跑得比自己快。

谷歌退出以后，军事AI没有停，只是换了人

2018年，谷歌员工抵制Project Maven。这个项目的核心用途，是用AI分析无人机图像。超过4000名谷歌员工签署请愿，要求公司退出。后来谷歌决定不续约。

当时很多人以为，这是科技公司员工阻止军事AI扩张的经典案例。

但后来的发展说明，事情没有这么简单。

谷歌退出后，帕兰蒂尔接过来了。

2024年，美国陆军给帕兰蒂尔一份4.8亿美元合同，用来扩展Maven Smart System。这个系统属于Project Maven体系，可以整合卫星、无人机、地理位置等数据，帮助识别潜在目标。后来这份协议被推进到接近13亿美元规模。

更大的变化发生在2025年。帕兰蒂尔拿到美国陆军一份最高100亿美元、为期十年的企业协议。注意，这不是保证花满100亿美元，而是合同上限。但它说明一个趋势：军事AI正在从实验项目，变成军队采购体系里的长期基础设施。

这件事很关键。

谷歌员工的抗议没有让军事AI消失。它只是让项目从一家更在意公众形象的公司，转移到一家更愿意做国防生意的公司。

这就是市场激励的现实：只要军事需求还在，退出者不会留下空白，只会留下机会。

算法不像核弹，没法长期锁在仓库里

核武器的优势，可以靠材料、设施、弹头数量来维持。

AI不一样。

AI能力扩散太快了。

2023年，Meta发布LLaMA模型后不久，模型权重泄露到网上。随后开源社区迅速围绕它做微调、指令调优和各种复现。一份后来流出的谷歌内部备忘录甚至判断：“我们没有护城河，OpenAI也没有。”

再看论文传播速度。arXiv 的AI分类页面显示，2025年该分类条目已经超过4.5万篇。虽然这只是一个分类口径，不等于全球全部AI论文，但它能说明一个趋势：AI知识传播速度非常快。

DeepSeek R1也说明了同一件事。外部分析普遍认为，它在美国芯片出口限制背景下，仍做出了有竞争力的推理模型。这不代表限制没用，而是说明算法路线、工程优化和公开研究会不断压缩技术差距。

这会带来一个反直觉结果：

军事AI越不像核武器，越难治理。

核武器可以查工厂、查材料、查弹头。AI系统你怎么查？查模型参数？查训练数据？查部署场景？就算今天查到了，三个月后也可能过时。

所以军事AI的竞争优势，可能不在“谁先发明”，而在“谁能最快部署到军队流程里”。

这也是为什么帕兰蒂尔这类公司重要。它们卖的不是一个模型，而是把数据、地图、传感器、指挥链条接起来的系统。

真正的风险，是人类会越来越相信机器

军事AI最容易被误解的一点是：大家总想象AI自己开火。

但历史上很多严重事故，并不是机器完全自主作恶，而是人在压力下相信了系统。

1988年7月，美国“文森斯号”巡洋舰在霍尔木兹海峡击落伊朗航空655号班机，290人死亡。美国方面称舰上人员把民航客机误判为伊朗F-14战斗机。 Britannica 也概括说，这架客机在伊朗空域被错误识别为战斗机。

这里的问题不是一个按钮突然有了邪恶意识。

问题是当时舰上处在高度紧张环境里，Aegis系统、雷达信息、敌我识别、通信呼叫、时间压力全部叠在一起。人类不是没有数据，而是没有足够时间和心理空间去慢慢判断。

2003年伊拉克战争中，美国“爱国者”防空系统也发生过友军误击，击落一架英国“龙卷风”战机和一架美国海军F/A-18。CNAS的研究把它描述为人机混合失败：高度自动化系统，加上人类训练、界面和战场环境问题，最后导致悲剧。

这就是自动化偏见。

简单说，就是机器说了一个答案，人会本能地觉得它更客观、更快、更可靠。尤其在战场上，没人有时间慢慢查表、打电话、开会讨论。

于是AI越强，人越容易把判断权交给它。

但出事以后，机器不会上军事法庭。背锅的还是人。

AI不是减少判断，AI是在增加判断压力

MIT《国际安全》上有篇论文说得很准：AI降低了预测成本，但同时提高了高质量数据和人类判断的价值。

这句话听起来绕，我翻成大白话：

AI可以更快给你答案，但它需要干净的数据，也需要人知道这个答案到底该不该用。

战场偏偏最缺这两样。

数据会混乱。传感器会坏。敌方会伪装。通信会延迟。友军和平民会混在一起。模型训练时见过的世界，和真实战场上的世界，往往不是一回事。

所以军事AI不是简单地“帮人减负”。

它经常是把大量半成品判断推给人，然后要求人在更短时间里确认。

过去指挥员可能面对十条情报。现在AI帮他汇总成一百条“高价值提示”。看起来更智能，实际上更难判断。

这就是自动化偏见悖论：

AI越像专家，人越不敢反驳它；但AI越深度进入战场，人类越需要反驳它。

治理为什么总是慢半拍

联合国已经开始关注军事AI。2024年12月，联合国大会通过第79/239号决议，这是联合国大会第一份关于军事领域AI的决议。它强调，国际法、人道法、人权法适用于军事AI的整个生命周期。

这当然是进步。

但它还不是硬规则。

它没有把哪些系统禁止掉，也没有建立可核查机制，更没有解决“人在回路中”到底怎么算的问题。

这不是联合国特别慢，而是武器治理本来就慢。

核武器1945年首次使用，核不扩散条约1968年开放签署，中间隔了二十多年。网络战从2007年爱沙尼亚事件后逐渐成为全球安全议题，到今天也没有形成真正有约束力的全球条约。

军事AI的问题在于：治理速度还是老速度，部署速度却是软件速度。

这中间的时间差，就是风险窗口。

最该建立的不是禁令，而是一条热线

安全困境不是靠一方单方面退让解决的。

因为你退了，对方未必信。对方不信，就会继续加码。你看到对方加码，又会重新加码。

真正有效的办法，是降低不确定性。

冷战时期，美苏在古巴导弹危机后建立热线。它不能消灭核武器，但能在最危险的时候让双方说上话。

军事AI也需要类似东西。

比如危机通讯机制。比如对AI辅助决策系统的透明度标准。比如什么情况下必须有人类二次确认。比如误击事件发生后，是否能共享最低限度的系统日志和调查流程。

这些听起来很技术，但它们比口号重要。

因为军事AI最危险的时刻，不是双方明确宣战，而是双方都在猜：对方是不是已经让AI接管了决策？对方是不是比我快？我是不是必须先动手？

说到底，军事AI治理最需要的不是一句“我们会负责任使用AI”。

真正需要的是：当系统误判、局势升温、双方都快要按按钮的时候，还有一条能打通的线。

我的判断是，这件事很难。

但“很难”和“完全不可能”之间，还有一段空间。

而这段空间，可能就是本轮军事AI部署窗口里最值得争取的东西。