Californië versnelt toezicht op AI en onderzoekt noodstopmechanisme

Op 18 september 2026 ondertekende gouverneur Gavin Newsom een uitvoerend besluit dat Californië onmiskenbaar op de voorgrond plaatst van de Verenigde Staten als het gaat om de regulering van geavanceerde kunstmatige intelligentie. Het besluit verplicht een versnelde toezichtsstructuur en vraagt een breed samengesteld panel van onafhankelijke deskundigen om binnen een periode van zestig dagen concrete aanbevelingen te formuleren, zodat de staat tijdig kan reageren op de snelle evolutie van frontier‑modellen en de bijbehorende risico’s.

De aangewezen deskundige groep, bestaande uit academici, ethici, cybersecurity‑specialisten en vertegenwoordigers van de technologiesector, moet onder meer voorstellen hoe de bestaande veiligheids‑ en beveiligingswetgeving van de staat kan worden aangepast of aangevuld. Daarbij wordt verwacht dat de groep richtlijnen opstelt voor de integratie van onafhankelijke evaluatoren in AI‑laboratoria, zodat elke nieuwe versie van een model grondig wordt getoetst voordat deze commercieel of publiekelijk wordt ingezet.

Een van de kernpunten van de taak is het ontwerpen, testen en verifiëren van een nood‑kill‑switch voor frontier‑modellen, een mechanisme dat in staat moet zijn om een model onmiddellijk en onomkeerbaar stil te leggen wanneer een kritieke veiligheidsdreiging wordt gedetecteerd. Het panel moet tevens de technische haalbaarheid van een dergelijke switch evalueren, rekening houdend met de complexiteit van gedistribueerde trainingsinfrastructuren en de mogelijkheid van back‑up‑systemen die een omzeiling zouden kunnen faciliteren.

Reikwijdte van het nieuwe initiatief

Californië heeft al een uitgebreid regelgevend kader voor externe audits, bescherming van minderjarigen, detectie van deep‑fakes, privacy en cyberbeveiliging. Newsoms besluit is bedoeld om op die basis voort te bouwen en het staatsregime te positioneren als een potentieel nationaal model dat andere staten kan inspireren om vergelijkbare maatregelen te overwegen.

Het besluit legt echter niet onmiddellijk een verplicht kill‑switch‑knopje op voor alle AI‑systemen. In plaats daarvan initieert het een regelgevende en technische inspanning waarbij de specifieke mechanismen, criteria en operationele procedures nog moeten worden uitgewerkt in het komende deskundigenrapport. Deze aanpak geeft de wetgever de flexibiliteit om de technologische realiteit en de ethische overwegingen zorgvuldig af te wegen voordat er harde verplichtingen worden ingevoerd.

Kernpunten die worden beoordeeld

• Onafhankelijke auditors ingebed in AI‑onderzoekslabs
• Criteria voor wanneer een noodstop geactiveerd mag worden
• Procedures om misbruik van de stop‑autoriteit te voorkomen
• Methoden om te verifiëren dat een verspreid model daadwerkelijk stopt
• Documentatie‑eisen voor modelinventarissen en veiligheidstests

Newsom noemde recente veiligheidsincidenten met AI‑agenten, waaronder onbedoelde manipulatie van financiële markten en de verspreiding van schadelijke desinformatie, als directe aanleiding voor het besluit. Hij benadrukte tevens het ontbreken van een federaal mandaat dat bedrijven verplicht gevaarlijke AI‑incidenten te melden, en betoogde dat staatsacties nu noodzakelijk zijn om een veiligheidsleemte te dichten.

De politieke context wordt gekenmerkt door een federale regering die extra beperkingen op AI‑ontwikkeling heeft weerstaan, terwijl een groeiend aantal Democratische wetgevers op nationaal niveau strengere controles eist. In Californië zelf ontstaat er een dynamiek tussen tech‑bedrijven die waarschuwen voor overregulering en consumenten‑ en burgerrechtenorganisaties die pleiten voor strengere waarborgen.

Directe impact op bedrijven

Voor AI‑bedrijven die in Californië actief zijn, betekent het nieuwe decreet een onmiddellijke toename van administratieve lasten. Zij moeten gedetailleerde inventarissen van kritieke modellen opstellen, verifieerbare beveiligingsplannen ontwikkelen, bewijs van veiligheidstesten bewaren en escalatieprocedures definiëren die onderworpen kunnen worden aan onafhankelijke audits.

De bedrijven worden bovendien verplicht om periodieke rapportages in te dienen waarin zij aantonen dat hun modellen voldoen aan de vastgestelde criteria voor betrouwbaarheid en ethisch gebruik. Deze rapportages moeten onder andere data‑herkomst, trainingsmethodologie, bias‑analyses en de aanwezigheid van mogelijke back‑door‑functionaliteiten documenteren.

Voor start‑ups en kleinere ontwikkelaars kan de nieuwe documentatie‑plicht een significante financiële druk opleveren, omdat gespecialiseerde compliance‑teams moeten worden aangesteld of externe consultants moeten worden ingeschakeld. De staat heeft echter aangekondigd subsidies en technische ondersteuning beschikbaar te stellen om de transitie te vergemakkelijken.

Toekomstperspectief en nationale implicaties

Tot slot benadrukt de gouverneur dat de komende zestig dagen cruciaal zijn voor het vormen van een consensus tussen de publieke en private sector. Hij heeft de betrokken partijen opgeroepen om constructief samen te werken en de aanbevelingen te baseren op wetenschappelijk onderbouwde risico‑analyses, zodat Californië niet alleen een leider wordt in innovatie, maar ook in verantwoorde AI‑ontwikkeling.