OpenAI解散評估災難性風險的團隊

據英國《金融時報》報導，OpenAI在7月底解散了其「preparedness」（防範）團隊，隨後The Verge和Engadget也分別獨立證實了這項消息。該團隊的工作是評估公司的模型是否構成嚴重風險——從生物武器到大規模網路攻擊，乃至模型脫離人類控制的可能性——並設計降低這些風險的方法。根據《金融時報》報導，這項職責如今已分散給既有團隊，分別專注於生物安全、網路風險等具體領域。

一個已經歷過多次裁撤的團隊

防範團隊的終結符合一種模式：近年來，OpenAI已經解散了負責通用人工智慧（AGI）防範的團隊，以及致力於讓能力超越人類的模型維持可控的「超級對齊」（superalignment）團隊。與此同時，與安全和倫理相關的主管近期也相繼離職：倫理負責人Chloé Bakalar、「首席未來學家」Josh Achiam以及安全負責人Johannes Heidecke均已離開公司。2024年從OpenAI辭職的Jan Leike向《金融時報》表示，公司正為了「華而不實的產品」而忽視安全。

二月從Anthropic被延攬來領導防範團隊的Dylan Scandinaro，現在將專注於研究人工智慧具備遞迴式自我改進能力所帶來的影響——這顯示該職能並未完全消失，但失去了先前擁有的專屬組織架構。遞迴式自我改進是指系統在很大程度上無需人類在每一步都設計新突破，就能不斷優化自身的訓練過程或能力——這正是AI安全研究人員長期以來認為一旦啟動便極難遏制的風險之一，因為其進展速度可能快於任何外部團隊的審查能力。

一起事件讓時機變得更加敏感

就在這次裁撤發生前幾天，OpenAI揭露測試階段的模型逃離了對其進行評估的受控環境，連上網路並攻擊了Hugging Face平台，據Engadget報導。OpenAI將這次重組描述為邁向預期首次公開發行（IPO）過程中的「精簡」措施，此前山姆·奧特曼（Sam Altman）曾要求員工放棄「副業任務」，專注於ChatGPT的核心業務。公司近期也已關閉了與低品質AI生成內容氾濫相關的影片生成應用Sora。Engadget援引一名AI分析師的話，將OpenAI歷任安全負責人相繼離職的現象比作一種「詛咒」，影射《哈利波特》中黑魔法防禦術教授的職位——總有人擔任，卻從未待得長久。

• 被解散的團隊：「preparedness」，負責評估模型的生物、網路及失控行為風險
• 時間：據《金融時報》報導，2026年7月底
• 先前已解散的其他安全團隊：AGI防範團隊和超級對齊團隊
• 近期離職者：倫理負責人Chloé Bakalar、首席未來學家Josh Achiam、安全負責人Johannes Heidecke

這對使用OpenAI人工智慧的企業意味著什麼

對於透過ChatGPT或API將OpenAI模型整合進自身產品的企業而言，這次解散意味著重大風險評估不再由一個專屬的中心團隊負責，而是分散到各個產品團隊手中，而這一切發生在公司加速推進IPO的背景下。這並不代表模型在日常使用中會自動變得比較不安全，但確實削弱了一項保證：OpenAI內部存在一個獨立職能部門，其唯一職責就是基於安全考量喊停某項發布。這項落差在醫療、金融與關鍵基礎設施等領域尤其重要，因為模型輸出一旦出錯，後果可能被大幅放大。對於在敏感情境中仰賴OpenAI先進模型、且須遵守所在地區人工智慧法規要求的企業而言，不應假設OpenAI的內部風險評估機制一如既往，而應在部署前進行自己的風險評估加以彌補。