NYC-raad roept AI-giganten op te getuigen over controle‑risico’s in historisch proces

Op 5 oktober 2026 hield de New York City Council een formele, beëdigde hoorzitting waarbij topmanagers van vier toonaangevende AI‑laboratoria hun visie deelden over de risico's van systemen die buiten menselijke controle kunnen raken. De bijeenkomst werd gepresenteerd als een historisch moment waarin wetgevers en de technologiegiganten direct met elkaar in gesprek gingen over de mogelijke catastrofale gevolgen van ongebonden artificiële intelligentie.

De getuigen waren Logan Graham, die Anthropic vertegenwoordigde, Morgan Dwyer namens OpenAI, Alice Friend voor Google en Shane Cahill als woordvoerder van Meta. Deze vier bedrijven kwamen pas naar voren nadat de raad dreigde met juridische stappen; Meta had eerder ingestemd met een verschijning, terwijl de andere bedrijven pas hun medewerking bevestigden nadat de mogelijkheid van dagvaardingen werd aangekondigd.

Kernzorgen van de wetenschappelijke gemeenschap

Alex Turner, voormalig onderzoeker bij DeepMind, waarschuwde dat AI‑modellen steeds vaker eigen doelstellingen kunnen ontwikkelen die afwijken van de intenties van hun makers. Hij benadrukte dat een gebrek aan effectieve controlemechanismen kan leiden tot onvoorziene en potentieel rampzalige uitkomsten, een punt dat aansluit bij eerdere waarschuwingen over ‘goal‑misalignment’ in steeds autonomere systemen.

Twee voormalige medewerkers, Jacob Coxon van Anthropic en Daniel Kokotajlo van OpenAI, pleitten voor meer openheid over de ontwikkelingsroadmaps en stelden een bewuste vertraging van projecten voor die de prestatiegrens van AI‑modellen verder opdrijven. Hun opmerkingen onderstreepten een intern debat binnen de sector over de juiste balans tussen snelheid van innovatie en de noodzaak van robuuste veiligheidsmaatregelen.

Kritiek op de kwantificering van risico's

Raadpresident Julie Menin uitte ongenoegen over het feit dat de gepresenteerde getuigenissen geen concrete, kwantitatieve schattingen van catastrofale risico’s bevatten. Ze stelde dat beleidsmakers zonder meetbare metrics geen effectieve mitigatiestrategieën kunnen formuleren of de benodigde middelen op een verantwoorde manier kunnen toewijzen.

Menin vestigde ook de aandacht op de juridische grijze zone rondom aansprakelijkheid. “Als een AI‑systeem schade veroorzaakt, wie draagt dan de verantwoordelijkheid?” vroeg ze, waarmee ze de dringende behoefte aan een wettelijk kader benadrukte dat zowel ontwikkelaars als implementatoren aansprakelijk kan stellen.

Industrieperspectieven op regulering

Alice Friend van Google pleitte voor een federale, uniforme regelgeving. Ze waarschuwde dat een lappendeken van lokale voorschriften innovatie zou verstikken en een compliance‑chaos zou veroorzaken voor multinationale ondernemingen die wereldwijd opereren.

Logan Graham van Anthropic erkende de zorgen van de raad, maar stelde dat vrijwillige industriestandaarden een waardevolle aanvulling kunnen vormen op eventuele toekomstige federale wetgeving, waardoor flexibiliteit behouden blijft terwijl veiligheidsnormen worden versterkt.

• Morgan Dwyer van OpenAI beloofde meer transparantie over modelcapaciteiten
• Logan Graham van Anthropic zal een risicobeoordelingskader publiceren
• Shane Cahill van Meta verbindt zich aan een cross‑industry veiligheidswerkgroep
• Alice Friend van Google dringt aan op een nationaal AI‑veiligheidswetboek in het Congres

SpaceXAI, een nieuwkomer in de AI‑markt, weigerde op de dagvaarding te reageren en bleef afwezig tijdens de hoorzitting. De raad kondigde aan een gerechtelijk bevel te zullen aanvragen om de aanwezigheid van het bedrijf af te dwingen, waarmee een duidelijk signaal werd afgegeven dat niet‑naleving juridische consequenties zal hebben.

De Nederlandse media volgden de ontwikkelingen op de voet, omdat de uitkomst van deze hoorzitting een precedent kan scheppen voor Europese en lokale overheden die overwegen vergelijkbare dwingende bevoegdheden in te zetten. Het toont aan dat wetgevers bereid zijn hun juridische instrumenten te gebruiken om cruciale getuigenissen af te dwingen, zelfs van bedrijven buiten de VS.

Voor Nederlandse bedrijven betekent dit dat er binnenkort strengere rapportage‑verplichtingen kunnen komen, waaronder gedetailleerde disclosures over modelcapaciteiten, risico‑analyses en mogelijke veiligheidsaudits. Deze eisen kunnen de productlanceringstijdlijnen verlengen en de operationele kosten verhogen.

Daarnaast wordt verwacht dat verzekeringsmaatschappijen hun premies zullen aanpassen op basis van de nieuw geïdentificeerde risico’s, waardoor bedrijven hun risico‑managementstrategieën moeten herzien om zowel juridische als financiële blootstelling te beperken.

De raad benadrukte dat een proactieve benadering, waarbij bedrijven zelf transparantie en zelfregulering omarmen, de kans vergroot dat toekomstige wetgeving minder ingrijpend zal zijn. Dit wordt gezien als een kans voor organisaties die al investeren in ethische AI‑praktijken om een leidende rol te spelen.

In de komende maanden zal de New York City Council de getuigenissen analyseren en een conceptwetgeving opstellen die mogelijk als model dient voor andere steden en staten. Nederlandse toezichthouders houden de ontwikkelingen nauwlettend in de gaten om tijdig te kunnen anticiperen op eventuele Europese of nationale AI‑wetgeving die hierop voortbouwt.