AI自主对齐效率狂飙15000倍:人类最不可替代的角色是什么?

发布者:上下五千年 2026-8-30 10:07

在2026年8月28日,Anthropic发布了一个让整个AI圈睡不着觉的实验结果:他们让Claude化身“自动化对齐研究员”,只用1块H200显卡、48小时,就自主完成了对Claude全场景安全对齐的全流程,效果碾压了28位人类资深安全专家,效率比传统流程狂飙15000倍。

同一天,Anthropic还发布了首款在物理世界运行的AI工具MHS,让Claude能直接操控显微镜、机械臂做实验。而就在几周前,清华的AutoSOTA系统在无人干预的情况下,一周内自主发现了105个超越人类SOTA的模型,平均5小时完成一次从架构设计到调参验证的完整迭代。

AI已经能自己设计实验、自己跑对齐、自己调参数了。那人类在AI研发链里,还剩下什么不可替代的位置?

AI自主对齐主题科技概念视觉呈现

赛道上的玩家,都在抢什么位置

如果把AI研发链拆开来看,现在坐在牌桌上的玩家正在迅速分化成三种角色,抢的位置完全不同。

第一种,埋头做“自动执行”的工具派。 范式智能在2025年下半年以30.4%的市场份额稳居中国机器学习平台私有化市场第一,它的核心卖点就是AutoML自动调优模块,让企业用户不用自己写代码就可以搭模型。

奇富科技开源的ModelEvo自动建模Agent,能覆盖从数据检查到报告生成的全流程。智谱的GLM-5.1模型更进一步,在GPU内核优化这个传统上高度依赖专家经验的领域,已经能自主编写定制Triton/CUDA Kernel,单次任务独立持续工作超过8小时,端到端交付工程级成果。

这派玩家在标准化参数调优、固定流程实验执行这个位置上,已经快要做到头了。

第二种,试图做“自主研究”的探索派。 这一派的目标不是让AI在已知框架里跑得够快,而是让AI自己决定该研究什么。Anthropic搭建的9个Claude Opus组成的自治实验室,在72小时内自主完成了对齐研究的全流程,人类只给了最初的模糊提示。

Anthropic公布Claude自主对齐AI实验的推文截图

清华AutoSOTA能在无人干预下发现105个新SOTA模型,其中超60%具备新颖的模型结构设计,平均性能提升10%。OpenAI野心更大,计划在2028年前打造一个能自主解决物理、数学、化学等复杂科研问题的“AI研究员”。

但问题也出在这里——AI的自主研究能力,卡在了原创性判断上。

第三种,提供“硬核基础设施”的算力派。 2026年一季度,国产AI加速卡国内市场份额首次突破50%,英伟达份额从历史巅峰的95%降到42.7%。华为昇腾在2025年以20%的市场份额稳居国内第二、国产第一,把整个自主算力格局从“一个人吃饭”变成了“华为领跑、多强并起”。

这派玩家不直接参与研发,但它们是前面两种玩家能够跑起来的前提条件。

谁在退,谁在犹豫

赛道热归热,但已经有人开始踩刹车了。

Google DeepMind在2026年8月披露重组计划,拟裁员超三分之一,明确短期不再投入旗舰级前沿模型研发,转去搞更便宜的Flash模型。

OpenAI在8月19日宣布暂缓下一代Astra模型的扩展节奏,暂停了规模最大的前沿强化学习训练,原因是安全和对齐能力跟不上模型的能力跃迁。

OpenAI相关负责人公布暂停前沿训练的社交动态

而由OpenAI前CTO创立的高估值对齐企业Thinking Machines Lab,在不到18个月内6名核心联合创始人中走了4位,创始团队仅剩两人,首款模型发布未达预期。

这些退场和收缩,都指向同一个信号:不是AI自主化的技术跑不通,而是当AI的自主性越过某个临界点后,人类对“安全线在哪”的焦虑,直接压过了对“效率提升”的兴奋。

那个AI填不上的缝隙,到底在哪

普林斯顿大学联合多家机构做了一项被称为“影子评测”的严苛测试:给Claude Opus 4.8六天时间、3000美元API额度、独立GPU算力,让它从头完成两篇顶级AI会议论文的原创研究。两篇论文都交给原论文作者评审,结果全部被拒稿。

评审人指出,AI的实验设计“奇怪且难以理解”,存在“以例为证”的逻辑谬误,而且明显没有花足够时间探索不同方向,过早押注了一条不理想的路线。

这些AI智能体具备了完成研究所需的工程能力——检索文献、运行实验、整理结果——但一旦进入真正需要原创判断的环节,创造力和判断力就明显不够。

这就是当前AI自主研发的结构性边界:AI已经可以替代人类在“已知任务框架下有标准答案”的环节里做执行,但无法替代人类在“开放式研究方向上没有标准答案”的环节里做判断。

它可以自主完成一个已知对齐问题的修复方案,可以自主完成一个已知模型架构的参数调优,但当研究者需要判断“这个方向值不值得追”“这个证据够不够支撑结论”“这条路走不通了要不要换一条路”时,AI目前还做不到。

而Anthropic自己也在8月28日的论文中说得很清楚:截至2026年5月,超过80%的合入代码由Claude撰写,但“系统在执行上走得很远,仍然卡在研究方向的设定上”。也就是说,AI还不知道“哪些问题值得做”。

Anthropic发布的对齐研究学术论文局部截图

人类的位置,不是在变窄,而是在变深

如果把这个赛道的终局画出来,人类在AI研发链里最不可替代的三个角色,会越来越清晰。

第一,开放式研究方向的定义者。 AI能在封闭可验证的工程问题上做到极致,但它无法判断“这个方向有没有价值”。当AI的研究能力越强,定义“正确问题”的人就越稀缺。这个角色不是被替代,而是被放大。

第二,安全与价值边界的设定者。 OpenAI因为安全事件暂停了前沿强化学习训练,Anthropic在MHS工具发布时也明确表示要先完成安全加固再开源,工信部在“十五五”规划中明确要求推进“价值对齐”等技术攻关,让AI“为人所用、为人所控”。

当AI的自主能力越强,谁来设定“它能做什么、不能做什么”这件事,就越不能交给AI自己。

第三,对原创性科研贡献的最终判断力持有者。 影子评测的结果已经说明,目前AI可以生成大量的实验数据和结果,但判断一个实验结果是否构成“领域真正的新贡献”,仍然需要人类的研究直觉、品味和对学科脉络的理解。这种判断力,不是靠堆算力能训练出来的。

赛道上的泡沫正在褪去。宇树科技上市一周市值缩水近2000亿,经济学家盘和林直言头部企业收入结构高度同质化;野村证券研报显示,其70%以上来自科研机构采购,真实商业场景占比不足5%。

DeepSeek、阶跃星辰、月之暗面三家头部主体2026上半年合计融资约930亿元,占了国内AI全市场融资总额的30%,资金在向头部极度集中。扩张和收缩同时发生,只有真正定位清楚自己在研发链中独特价值的人,才能在这一轮洗牌中留下来。

而那个最独特、最不可替代的价值,不再是“能跑多快”,而是“知道往哪跑”。

大家都在看

相关文章