New York opent AI-veiligheidsregister voor OpenAI en Anthropic

New York gaat bij frontier-AI van wet naar handhaving. Op dinsdag 10 november opende de staat een registratieportaal dat grote frontier-ontwikkelaars zoals OpenAI en Anthropic volgens TechCrunch uiterlijk 1 januari 2027 moeten gebruiken. Dat is ook de datum waarop de verplichtingen van de RAISE Act gaan gelden, dus het nieuws is minder een plotselinge ommezwaai dan het begin van een aftelling.

Wat de wet eist

De Responsible AI Safety and Education (RAISE) Act richt zich op grote frontier-ontwikkelaars, door TechCrunch omschreven als bedrijven met meer dan 500 miljoen dollar jaaromzet. Volgens het kantoor van gouverneur Kathy Hochul, dat de wet beschreef in een mededeling van 21 september, moeten deze bedrijven:

• veiligheids- en transparantiekaders opstellen en op hun eigen website publiceren;
• kritieke veiligheidsincidenten binnen 72 uur melden aan het nieuwe bureau DIGIT;
• elk kwartaal beoordelingen van catastrofale risico's indienen bij DIGIT;
• zich registreren bij DIGIT, vanaf 1 januari 2027 minstens om de twee jaar een openbaarmakingsverklaring indienen en heffingen betalen.

TechCrunch noemt ook openbare transparantierapporten over de modellen. CIO Dive, dat in december 2025 verslag deed van de ondertekening van de wet, voegt toe dat ontwikkelaars een leidinggevende moeten aanwijzen die verantwoordelijk is voor naleving. De site noemt voorbeelden van meldingsplichtige incidenten: een frontier-model dat autonoom handelt buiten wat de gebruiker vroeg, een kritieke storing van technische controles, of diefstal, kwaadwillig gebruik of onbevoegde toegang tot het model.

Ook het publiek kan bij DIGIT meldingen indienen over vermoede kritieke incidenten, die het bureau aan andere autoriteiten mag doorgeven, zegt het kantoor van de gouverneur. DIGIT publiceert jaarlijks een rapport met een samenvatting van de ontvangen meldingen, zijn waarnemingen over de veiligheid van frontier-modellen en aanbevolen wijzigingen van de wet.

Wie handhaaft en wat het kan kosten

Het Office of Digital Innovation, Governance, Integrity, and Trust (DIGIT) valt onder het Department of Financial Services van de staat New York. Marc Gilman, in september benoemd tot adjunct-directeur voor de RAISE Act, is de eerste voltijdse medewerker, en het kantoor van de gouverneur zegt dat er de komende weken en maanden meer mensen bijkomen. Procureur-generaal Letitia James zei dat haar kantoor de wet zal handhaven.

De boetes kunnen oplopen tot 1 miljoen dollar voor een eerste overtreding en 3 miljoen dollar voor volgende, aldus TechCrunch. CIO Dive preciseert dat dit geldt voor ontwikkelaars die vereiste rapporten niet indienen of valse verklaringen afleggen. De staat kan ook optreden tegen bedrijven die zich niet registreren in het nieuwe portaal, maar een woordvoerder gaf TechCrunch geen details, dus hoe dat in de praktijk zou werken is nog onbekend.

Naast het portaal lanceerde Hochul het New York Center for AI Responsibility and Research aan Binghamton University, onderdeel van de State University of New York. Volgens TechCrunch beoordeelt het onafhankelijk de veiligheid, beveiliging en werking van geavanceerde AI-systemen en werkt het met DIGIT samen om de veiligheidskaders van bedrijven te toetsen. De gouverneur kondigde het in januari aan, met 55 miljoen dollar aan giften en kapitaal.

We bouwen een nationaal model voor slimme, verstandige AI-regulering, een model dat gemeenschappen boven bedrijven en mensen boven krachtige technologie stelt.

Een lappendeken van staatswetten en een federaal geschil

New York staat er niet alleen voor. TechCrunch wijst erop dat ook de Californische SB 53, sinds januari van kracht, frontier-labs verplicht veiligheidskaders te onderhouden en te publiceren en bescherming voor klokkenluiders in te voeren, met melding van kritieke incidenten binnen 15 dagen. De SB 315 van Illinois, die begin 2027 ingaat, stelt vergelijkbare eisen en voegt onafhankelijke audits van de naleving van veiligheidsregels toe. New York heeft nog andere teksten over AI-veiligheid: een wet over metgezel-chatbots die al wordt gehandhaafd en een in oktober getekende chatbotwet voor minderjarigen die op 1 juni 2027 ingaat.

De federale achtergrond is gespannen. CIO Dive meldde in december 2025 dat de RAISE Act de eerste staatswet over AI was die werd getekend na het presidentieel decreet van Donald Trump, dat een werkgroep (AI Litigation Task Force) instelt om staatswetten aan te vechten. Het was nog afwachten welke staten als eerste zouden worden aangepakt; Colorado werd genoemd. De bronnen die wij lazen zeggen niet of de New Yorkse wet wordt of zal worden aangevochten. Het kantoor van de gouverneur zegt van zijn kant dat de federale overheid geen nieuwe stappen heeft gezet op het gebied van AI-veiligheid.

Wat het verandert voor een bedrijf

De tekst dekt alleen ontwikkelaars boven de omzetdrempel, dus een gewoon Amerikaans bedrijf dat alleen modellen van OpenAI of Anthropic gebruikt, hoeft niets in te dienen. De effecten zullen eerder indirect zijn. Verplicht gepubliceerde veiligheidskaders en incidentmeldingen binnen 72 uur geven kopers nieuw materiaal om te lezen wanneer ze een AI-leverancier beoordelen. Dit is onze analyse, niet iets wat de wet zegt.

Een bedrijf dat agents bouwt op deze modellen kan zijn leveranciers nu al vragen waar hun kader is gepubliceerd en hoe incidenten worden gecommuniceerd. Bedrijven die eigen grote modellen trainen en in de buurt van de drempel zitten, moeten meteen nagaan of de registratieplicht voor hen geldt. Hoe je dat toezicht intern organiseert, leggen we uit in onze gids over governance van AI-agents.