OpenAI dringt aan op door VS geleide wereldwijde normen voor frontier-AI

OpenAI heeft het debat over de veiligheid van frontier-AI verschoven van algemene bezorgdheid naar een concrete governance-eis: internationale normen voor veiligheid en beveiliging, met de Verenigde Staten in een leidende rol. In een voorstel dat op 21 september werd gepubliceerd, stelt het bedrijf dat gemeenschappelijke technische normen het risico kunnen verkleinen op versnipperde en ongelijke regels in verschillende rechtsgebieden. Het document trekt ook een grens rond recursieve zelfverbetering en zegt dat deze capaciteit niet moet worden nagestreefd tenzij en totdat dit veilig kan gebeuren.

Wat er is veranderd

De verandering is niet dat OpenAI nu pas veiligheidsrisico’s van AI erkent. De verschuiving is dat het bedrijf oproept tot een internationaal kader dat door normen wordt gestuurd, op een moment waarop bedrijven en toezichthouders bespreken of de ontwikkeling moet vertragen vanwege veiligheidszorgen. Daarmee plaatst OpenAI zijn positie tussen twee vormen van druk: aan de ene kant de voortgezette ontwikkeling van frontier-systemen, en aan de andere kant eisen voor sterkere beperkingen.

Het voorstel van het bedrijf is een aankondiging van OpenAI, geen onafhankelijke regulatoire bevinding en geen neutrale benchmark. De centrale claim is dat wereldwijde samenwerking kan helpen voorkomen dat er een lappendeken van regels ontstaat die inconsistent, onvolledig of ongelijk gehandhaafd kan zijn. Dat argument weerspiegelt een praktische zorg voor bedrijven die frontier-AI bouwen of inzetten: uiteenlopende nationale eisen kunnen onzekerheid creëren, terwijl gaten tussen regimes risico’s onbehandeld kunnen laten.

OpenAI positioneert ook de Verenigde Staten als de actor die de wereldwijde inspanning moet leiden. Dat is een politieke en institutionele positie, geen technisch resultaat. Het voorstel toont, op basis van de verstrekte feiten, niet aan dat Amerikaans leiderschap veiligere systemen zou opleveren dan een andere inrichting. Het zegt dat de Verenigde Staten die rol moeten nemen en dat internationale samenwerking de voorkeur heeft boven versnipperde regels.

Hoe het voorstel moet werken

Het mechanisme bestaat uit normen, niet uit één nationale wet. Technische veiligheids- en beveiligingsnormen kunnen verwachtingen definiëren voor de manier waarop frontier-AI-systemen worden ontwikkeld, getest, beveiligd en bestuurd. In principe kunnen gedeelde normen het voor overheden en bedrijven eenvoudiger maken om te beoordelen of een systeem aan overeengekomen eisen voldoet. Ze kunnen toezichthouders ook een gemeenschappelijke woordenschat geven wanneer risico’s over grenzen heen worden vergeleken.

Het belang van het voorstel ligt in de focus op frontier-AI, niet op algemene software. Frontier-AI verwijst naar systemen aan de voorhoede van capaciteit, waar veiligheids- en beveiligingsvragen vooraf moeilijker te beoordelen kunnen zijn. OpenAI’s positie is dat deze systemen internationale coördinatie nodig hebben omdat hun effecten en risico’s niet beperkt blijven tot één rechtsgebied. Die claim is een beleidsargument van het bedrijf, geen gemeten conclusie uit een onafhankelijke beoordeling.

Recursieve zelfverbetering is de meest gevoelige capaciteit die in het voorstel aan bod komt. OpenAI beschrijft dit als software die helpt zichzelf te verbeteren. De zorg is dat, als zo’n proces zonder betrouwbare waarborgen zou worden nagestreefd, systemen moeilijker te controleren, te evalueren of te beveiligen kunnen worden. OpenAI’s uitgesproken positie is dat recursieve zelfverbetering niet moet worden nagestreefd tenzij en totdat dit veilig kan gebeuren.

Die formulering is van belang. Het is geen permanente afwijzing van recursieve zelfverbetering. Het is een voorwaardelijke pauze: streef het niet na tenzij veiligheid kan worden vastgesteld. De praktische implicatie is dat OpenAI probeert een drempel te definiëren voor toekomstig werk aan deze capaciteit. De verstrekte feiten specificeren echter niet welke tests, normen of bewijzen voldoende zouden zijn om aan te tonen dat recursieve zelfverbetering veilig kan worden uitgevoerd.

Wat het aangehaalde incident wel en niet laat zien

OpenAI verwees naar het eerder openbaar gemaakte Hugging Face-incident als een voorproef van risico’s die zonder waarborgen ernstiger zouden kunnen worden. Het bedrijf verklaarde ook dat het incident zelf niet werd veroorzaakt door recursieve zelfverbetering. Dat onderscheid is essentieel. Het incident wordt gebruikt als voorbeeld van het type veiligheids- en beveiligingszorg dat in ernst zou kunnen toenemen, niet als bewijs dat recursieve zelfverbetering al zo’n uitkomst heeft voortgebracht.

Dit betekent dat het incident niet bewijst dat recursieve zelfverbetering momenteel schade veroorzaakt. Het bewijst ook niet dat voorgestelde normen het incident zouden hebben voorkomen. Op basis van de geverifieerde feiten fungeert het incident als een waarschuwingssignaal in OpenAI’s argument: AI-gerelateerde systemen en infrastructuur kunnen risico’s blootleggen, en capabelere of autonomere systemen zouden die risico’s moeilijker beheersbaar kunnen maken als waarborgen zwak zijn.

De beschikbare feiten bevatten geen prestatiecijfers, incidentstatistieken, adoptiecijfers, modelevaluaties of vergelijkende veiligheidsresultaten. Daardoor is er hier geen numerieke benchmark die laat zien dat het ene normenmodel veiliger is dan het andere, of dat het risico van recursieve zelfverbetering een gekwantificeerde drempel heeft bereikt. Het voorstel moet daarom worden gelezen als een governance-interventie en risicobeoordeling door OpenAI, niet als een gepubliceerde empirische studie die de effectiviteit van een specifieke norm bewijst.

Dat gebrek aan cijfers beperkt wat kan worden geconcludeerd. Het voorstel kan laten zien wat OpenAI wil dat overheden en industrie prioriteit geven. Het kan de positie van het bedrijf over recursieve zelfverbetering verduidelijken. Het kan versnippering aanwijzen als een governance-risico. Maar het kan, op basis van de verstrekte feiten, niet aantonen hoeveel veiliger een wereldwijd normenregime zou zijn, hoe snel het kan worden ingevoerd of welke technische controles toereikend zouden zijn.

Diplomatieke en praktische implicaties

De timing geeft het voorstel een diplomatieke context. Sam Altman wordt naar verwachting op woensdag, tijdens de week van de Algemene Vergadering van de VN, ingelicht aan de VN-Veiligheidsraad. Frankrijk, dat het roulerende voorzitterschap van de raad bekleedt, organiseert de vergadering. Die context plaatst de veiligheid van frontier-AI binnen een veiligheidsforum, en niet alleen binnen een discussie over technologie of handel.

Voor overheden is de praktische implicatie dat governance van frontier-AI in toenemende mate kan worden besproken als een internationaal veiligheidsvraagstuk. Als normen wereldwijd worden nagestreefd, zouden beleidsmakers moeten beslissen wie ze opstelt, hoe naleving wordt beoordeeld en hoe ze zich verhouden tot nationale regelgeving. Het voorstel pleit voor het vermijden van versnipperde en ongelijke regels, maar neemt de politieke moeilijkheid niet weg om landen met verschillende regulatoire prioriteiten op één lijn te brengen.

Voor AI-bedrijven zouden gedeelde normen duidelijkere verwachtingen kunnen scheppen, vooral voor veiligheids- en beveiligingspraktijken rond frontier-systemen. Ze zouden ook de last van documentatie, testen en interne controles kunnen vergroten. De verstrekte feiten zeggen niet of OpenAI’s voorgestelde aanpak de ontwikkeling zou vertragen, de uitrol zou versnellen door vertrouwen te creëren, of beide effecten in verschillende gebieden zou opleveren. Dat blijft onderdeel van het bredere debat over de vraag of AI-ontwikkeling moet vertragen vanwege veiligheidsrisico’s.

Voor het publieke debat is het belangrijkste gevolg een duidelijkere scheiding tussen drie vragen die vaak door elkaar lopen. De eerste is of frontier-AI wereldwijde technische normen nodig heeft. De tweede is of de Verenigde Staten dat proces moeten leiden. De derde is of recursieve zelfverbetering moet worden uitgesteld totdat dit veilig kan gebeuren. OpenAI beantwoordt alle drie met ja, maar die antwoorden zijn bedrijfsposities. De volgende test is of toezichthouders, andere bedrijven en internationale instellingen ze behandelen als basis voor gemeenschappelijke regels.