OpenAI敦促建立由美国主导的前沿AI全球标准

OpenAI把关于前沿AI安全的讨论，从泛泛的风险担忧推进到一项更具体的治理诉求：建立国际性的安全与安保标准，并由美国发挥主导作用。该公司在9月21日发布的一份提案中主张，共同的技术标准可以降低不同司法辖区之间规则碎片化和执行不均的风险。文件还围绕递归式自我改进划出界线，称除非并且直到能够安全地实现，否则不应追求这种能力。

发生了什么变化

变化并不在于OpenAI现在才承认AI安全风险。真正的转向是，在企业和监管机构正围绕安全担忧是否应促使开发放缓展开讨论之际，OpenAI提出了一个以标准为核心的国际框架。这使该公司的立场处在两种压力之间：一边是继续开发前沿系统，另一边是要求更强约束。该提案是OpenAI的企业公告，不是独立监管结论，也不是中立基准测试。其核心主张是，全球合作有助于避免规则拼凑，这些规则可能彼此不一致、不完整，或在执行上不均衡。这个论点反映出开发或部署前沿AI的企业面临的一项现实顾虑：不同国家要求会制造不确定性，而制度之间的缺口可能使风险没有得到处理。

OpenAI还把美国定位为应当领导这项全球努力的行动方。这是一种政治和制度立场，不是技术结果。根据已提供事实，该提案并未证明由美国领导会比另一种安排产生更安全的系统。它所表达的是，美国应承担这一角色，而国际合作优于碎片化规则。也就是说，在这一点上，需要区分公司倡议、政策判断和经独立验证的技术结论：现有事实只支持前两者的存在，并不提供第三者。

提案打算如何运作

这套机制依赖的是标准，而不是单一国内法律。技术安全和安保标准可以界定外界对前沿AI系统开发、测试、保护和治理方式的期待。原则上，共同标准可以让政府和企业更容易评估一个系统是否满足已经商定的要求。它们也可以在各国比较风险时，为监管机构提供共同词汇。提案的重要性在于它聚焦前沿AI，而不是一般软件。前沿AI指处于能力前沿的系统，在这类系统上，安全和安保问题可能更难提前评估。OpenAI的立场是，这些系统需要国际协调，因为其影响和风险并不局限于某一个司法辖区。不过，这一说法是该公司的政策论点，而不是独立审查得出的测量结论。

递归式自我改进是该提案中涉及的最敏感能力。OpenAI将其描述为软件帮助改进自身。相关担忧在于，如果在缺乏可靠保障的情况下推进这种过程，系统可能变得更难控制、评估或保护。OpenAI明示的立场是，除非并且直到能够安全实现，否则不应追求递归式自我改进。这个表述很关键。它不是对递归式自我改进的永久否定，而是一个有条件的暂停：除非能够确立安全性，否则不要推进。其实际含义是，OpenAI试图为今后围绕这种能力开展工作设定门槛。然而，已提供事实没有说明，哪些测试、标准或证据足以证明递归式自我改进能够安全完成。

被引用事件说明了什么，也没有说明什么

OpenAI引用了此前披露的Hugging Face事件，将其作为一种风险预演：如果缺乏保障措施，这类风险可能变得更严重。该公司同时表示，该事件本身并不是由递归式自我改进造成的。这一区分非常重要。该事件在OpenAI论证中被用作一类安全和安保担忧的例子，这类担忧的严重性可能扩大；它不是用来证明递归式自我改进已经产生了这种结果的证据。因此，该事件并不能证明递归式自我改进目前正在造成伤害。它也不能证明拟议中的标准本来可以防止该事件发生。

基于已经核实的事实，该事件在OpenAI的论证中起到的是警示信号作用：与AI相关的系统和基础设施可能暴露风险，而如果保障薄弱，能力更强或自主性更高的系统可能使这些风险更难管理。现有事实不包括性能数字、事件指标、采用数据、模型评估或比较性的安全结果。因此，这里没有数值基准能够显示某一种标准模式比另一种更安全，也没有数字表明递归式自我改进带来的风险已经达到某个量化阈值。该提案因此应被理解为OpenAI提出的治理干预和风险评估，而不是一项已经发表、用来证明某一具体标准有效性的实证研究。

这种数字缺失限制了可以得出的结论。该提案能够显示OpenAI希望政府和行业优先处理哪些事项。它可以澄清该公司在递归式自我改进问题上的立场。它也可以把规则碎片化识别为一种治理风险。但根据已提供事实，它不能证明全球标准制度会让系统安全多少，不能证明这种制度能以多快速度实施，也不能说明哪些技术控制措施是充分的。对技术新闻读者而言，这意味着应把公司公告、编辑者或企业提出的基准，以及独立测量结果分开阅读；在这份材料中，前者存在，后两类证据并未被提供。

外交和实践含义

发布时间赋予了这项提案一个外交背景。Sam Altman预计将在联合国大会周期间的星期三向联合国安全理事会作情况通报。担任安理会轮值主席国的法国正在组织这次会议。这一语境把前沿AI安全置于安全论坛之内，而不只是技术或商业讨论之中。对政府而言，实际含义是，前沿AI治理可能越来越多地被作为国际安全议题来讨论。如果在全球范围内推进标准，政策制定者将需要决定由谁起草标准，如何评估合规，以及这些标准如何与国家监管互动。该提案主张避免碎片化和不均衡规则，但并没有消除让监管优先事项不同的国家达成一致所面临的政治困难。

对AI企业而言，共同标准可能带来更清晰的预期，尤其是在前沿系统周边的安全和安保实践方面。它们也可能提高文档、测试和内部控制方面的负担。已提供事实没有说明OpenAI建议的路径会放慢开发、通过建立信心而加快部署，还是在不同领域同时产生两种效果。这仍属于更广泛的争论：由于安全风险，AI开发是否应当放缓。对公共讨论而言，主要后果是更清楚地区分三个经常被混在一起的问题：前沿AI是否需要全球技术标准；美国是否应领导这一进程；递归式自我改进是否应推迟到能够安全实现之后。OpenAI对这三个问题的回答都是肯定的，但这些回答是公司立场。下一步考验是，监管机构、其他企业和国际机构是否会把这些立场视为共同规则的基础。