研究人员警告：自动化 AI 研发可能把多年进展压缩为数月

研究背景与论文概述

一篇题为《如果自动化 AI 研发触发智能爆炸会怎样？》的预印本论文，对一种可能的情景进行了系统性分析：在该情景中，AI 系统接管了大部分用于提升未来模型的研究与工程工作。作者强调，这是一篇情景分析与理论推演的预印本，并不意味着此类自动化已经在业界普遍实现，也不提供实际案例作为证据。

作者团队

论文的作者名单包括深度学习先驱 Geoffrey Hinton、神经网络之父 Yoshua Bengio、强化学习专家 Richard Sutton，以及 OpenAI 的首席科学家 Jakub Pachocki。除此之外，团队还邀请了在政策制定、经济学和技术安全领域具有丰富经验的专家共同署名，使得这项推测性工作在跨学科视角上更具分量。

作者们在文中明确指出，虽然在未来数年内 AI 系统有可能实现对大多数 AI 研发任务的自动化，但具体的加速时间表和加速幅度仍然高度不确定。他们警告说，任何超出这一不确定范围的预测都只能算作猜测，缺乏实证支撑。

自动化进展的证据

论文引用了若干前沿实验室中 AI 生成代码以及 AI 审核代码数量的快速增长，作为自动化进程的具体指标。这些数据表明，机器在代码编写环节的参与度正在提升，但作者也指出，代码编写仅是更广泛研发过程中的一个环节，尚不能代表整个研发体系的全自动化。

• 2026年3月：Anthropic 完成约 1% 的自主研发任务
• 2026年4月：提升至约 5%
• 2026年6月：提升至约 15%
• 2026年8月：提升至约 26%

潜在的加速情景

在极端反馈回路情景下，作者通过模型化展示，普通一年所取得的研究进展可能被压缩为数周甚至更短的时间。这种压缩是基于模型推演的可能性，并非必然会发生的确定性预测。

论文列出了若实现此类加速可能带来的收益，包括更快的科学发现速度、更早实现能够应对全球紧迫挑战的技术能力，以及在竞争格局中获得显著优势。

与此同时，作者指出若干潜在风险：人类对研究方向的控制力可能下降、机构在适应快速变化时出现滞后、技术权力可能进一步集中在少数组织手中，以及政府与企业之间的监督机制可能被削弱。

为降低这些风险，作者建议紧急衡量并透明报告 AI 研发自动化程度，提前准备应对可能的社会影响，并研发相应的技术与政策机制，以引导或限制快速递归改进的速度。

针对中国的科研机构和企业，作者的分析转化为一种迫切需求：必须监测内部自动化指标的变化，投入专门的治理框架来应对能力的快速提升，并与监管部门紧密合作，制定相应标准，防止技术在未受控的情况下突破临界点。

总体而言，这篇预印本提醒业界和政策制定者，尽管自动化有望显著压缩研发周期，但其高度不确定性和潜在风险同样不可忽视，需要在推动技术进步的同时，保持审慎的风险管理姿态。

在全球范围内，已有多位 AI 领域领袖联名发声，警示公众和决策者留给人类准备的时间可能只有几年。该呼声进一步凸显了对自动化研发进程进行系统监测和规范的紧迫性。

本报告的发布恰逢中国在 AI 研发投入持续增长的关键时期，相关部门已开始审视现有的技术伦理与安全框架，以期在加速创新的同时，确保技术发展符合国家安全与社会福祉的双重目标。