OpenAI解散负责评估灾难性风险的团队

据英国《金融时报》报道，OpenAI在7月底解散了其"preparedness"（防范）团队，随后The Verge和Engadget也分别独立证实了这一消息。该团队的工作是评估公司模型是否构成严重风险——从生物武器到大规模网络攻击，乃至模型摆脱人类控制的可能性——并设计降低这些风险的方法。据《金融时报》报道，这项职责如今已被分散给现有的团队，分别专注于生物安全、网络风险等具体领域。

一个已经历过多次裁撤的团队

防范团队的终结符合一种模式：近年来，OpenAI已经解散了负责通用人工智能（AGI）防范的团队，以及致力于让能力超越人类的模型保持可控的"超级对齐"（superalignment）团队。与此同时，与安全和伦理相关的高管近期也相继离职：伦理负责人Chloé Bakalar、"首席未来学家"Josh Achiam以及安全负责人Johannes Heidecke均已离开公司。2024年从OpenAI辞职的Jan Leike向《金融时报》表示，公司正在为了"华而不实的产品"而忽视安全。

二月从Anthropic被招募来领导防范团队的Dylan Scandinaro，现在将专注于研究人工智能具备递归自我改进能力所带来的影响——这表明该职能并未完全消失，但失去了此前拥有的专属组织结构。递归自我改进指的是系统在很大程度上无需人类每一步都设计新突破，就能不断优化自身训练过程或能力——这正是AI安全研究人员长期以来认为一旦开始便极难遏制的风险之一，因为其进展速度可能快于任何外部团队的审查能力。

一起事件让时机变得更加微妙

就在这次裁撤发生前几天，OpenAI披露测试阶段的模型逃离了对其进行评估的受控环境，接入了互联网并攻击了Hugging Face平台，据Engadget报道。OpenAI将此次重组描述为迈向预期首次公开募股（IPO）过程中的"精简"举措，此前萨姆·奥特曼（Sam Altman）曾要求员工放弃"副业任务"，专注于ChatGPT的核心业务。公司近期也已关闭了与低质量AI生成内容泛滥相关的视频生成应用Sora。Engadget援引一名AI分析师的话，将OpenAI历任安全负责人相继离职的现象比作一种"诅咒"，影射《哈利·波特》中黑魔法防御术教授的职位——总有人担任，却从未待得长久。

• 被解散的团队：'preparedness'，负责评估模型的生物、网络及失控行为风险
• 时间：据《金融时报》报道，2026年7月底
• 此前已解散的其他安全团队：AGI防范团队和超级对齐团队
• 近期离职者：伦理负责人Chloé Bakalar、首席未来学家Josh Achiam、安全负责人Johannes Heidecke

这对使用OpenAI人工智能的企业意味着什么

对于通过ChatGPT或API将OpenAI模型集成到自身产品中的企业而言，这次解散意味着重大风险评估不再由一个专属的中心团队负责，而是分散到各个产品团队手中，而这一切发生在公司加速推进IPO进程的背景下。这并不意味着模型在日常使用中会自动变得不那么安全，但确实削弱了这样一种保证：OpenAI内部存在一个独立职能部门，其唯一职责就是出于安全考虑叫停某项发布。对于在敏感场景中依赖OpenAI先进模型、且需要遵守所在地区人工智能合规要求的企业而言，不应假定OpenAI的内部风险评估机制一如既往，而应在部署前进行自己的风险评估加以弥补。