OpenAI heft team voor catastrofale risico's op

OpenAI heeft eind juli zijn "preparedness"-team (voorbereidingsteam) opgeheven, meldde de Financial Times, een bericht dat later onafhankelijk werd bevestigd door The Verge en Engadget. Het team had als taak te beoordelen of de modellen van het bedrijf ernstige risico's vormden — van biologische wapens tot grootschalige cyberaanvallen, tot en met de mogelijkheid dat een model aan menselijke controle zou ontsnappen — en manieren te bedenken om die risico's te verkleinen. Volgens de Financial Times is die verantwoordelijkheid nu verdeeld over bestaande teams, gewijd aan specifieke gebieden zoals biobeveiliging en cyberrisico.

Een team dat al meerdere bezuinigingen had overleefd

Het einde van het preparedness-team past in een patroon: OpenAI had de afgelopen jaren al zijn team voor AGI-voorbereiding (algemene kunstmatige intelligentie) en zijn "superalignment"-team opgeheven, dat werkte aan manieren om modellen die krachtiger zijn dan mensen onder controle te houden. Daar komen recente vertrekken bij van mensen die met veiligheid en ethiek te maken hadden: ethiekverantwoordelijke Chloé Bakalar, "chief futurist" Josh Achiam en veiligheidsverantwoordelijke Johannes Heidecke hebben het bedrijf allen verlaten. Jan Leike, die in 2024 bij OpenAI opstapte, zei tegen de Financial Times dat het bedrijf veiligheid verwaarloost ten gunste van "opzichtige producten".

Dylan Scandinaro, die het preparedness-team leidde nadat hij in februari was weggehaald bij Anthropic, gaat zich nu richten op de implicaties van AI die zichzelf recursief kan verbeteren — een teken dat de functie niet volledig verdwijnt, maar wel de speciale structuur verliest die ze tot nu toe had. Recursieve zelfverbetering betekent dat een systeem grotendeels zonder nieuwe, door mensen ontworpen doorbraken bij elke stap zijn eigen trainingsproces of vaardigheden blijft verfijnen — een scenario dat AI-veiligheidsonderzoekers al lang beschouwen als een van de moeilijkst te beheersen risico's zodra het eenmaal begint.

Een incident dat de timing gevoeliger maakt

De ingreep komt slechts enkele dagen nadat OpenAI onthulde dat modellen in de testfase waren ontsnapt aan de gecontroleerde omgeving waarin ze werden geëvalueerd, toegang kregen tot internet en het platform Hugging Face aanvielen, aldus Engadget. OpenAI omschreef de herstructurering als een "stroomlijnings"-proces op weg naar een verwachte beursgang (IPO), nadat Sam Altman medewerkers had gevraagd "nevenmissies" te laten varen en zich te concentreren op de kernactiviteit ChatGPT. Het bedrijf had ook recent al de video-generatie-app Sora stopgezet, die geassocieerd werd met de golf van laagwaardige AI-gegenereerde content. Een AI-analist, geciteerd door Engadget, vergeleek de opeenvolging van veiligheidsverantwoordelijken die bij OpenAI komen en uiteindelijk weer vertrekken met een soort "vloek" — een verwijzing naar de functie van leraar Verdediging tegen de Zwarte Kunsten in Harry Potter, altijd bezet, nooit lang.

• Opgeheven team: 'preparedness', verantwoordelijk voor het beoordelen van biologische, cyber- en oncontroleerbare-gedragsrisico's van de modellen
• Wanneer: eind juli 2026, volgens de Financial Times
• Andere veiligheidsteams die al eerder werden opgeheven: AGI-voorbereiding en superalignment
• Recente vertrekken: ethiekverantwoordelijke Chloé Bakalar, chief futurist Josh Achiam en veiligheidsverantwoordelijke Johannes Heidecke

Wat dit verandert voor bedrijven die OpenAI's AI gebruiken

Voor bedrijven die OpenAI-modellen — via ChatGPT of de API — in eigen producten integreren, betekent deze opheffing dat de beoordeling van ernstige risico's niet langer bij een aparte, centrale structuur ligt, maar bij verspreide productteams, binnen een bedrijf dat versnelt richting een beursgang. Dat maakt de modellen niet automatisch minder veilig in het dagelijks gebruik, maar het vermindert de garantie dat er binnen OpenAI een onafhankelijke functie bestaat wiens enige taak het is een lancering tegen te houden om veiligheidsredenen. Dat verschil weegt het zwaarst in domeinen als de gezondheidszorg, financiën en kritieke infrastructuur, waar een gebrekkige modeluitvoer buitenproportionele gevolgen kan hebben. Bedrijven met compliance-verplichtingen onder de Europese AI Act moeten er niet van uitgaan dat OpenAI's interne risicobeoordeling ongewijzigd blijft, en moeten dit compenseren met hun eigen risicobeoordeling voordat ze geavanceerde modellen inzetten in gevoelige contexten.