Experts waarschuwen: risico superintelligente AI als kernwapens

De waarschuwingen over de risico's van kunstmatige intelligentie die het stadium van "kunstmatige superintelligentie" (ASI) bereikt, zijn de afgelopen dagen toegenomen, na een hoorzitting in Londen georganiseerd door de coalitie Control AI, een lobbygroep die pleit voor internationale regels voor de sector en een wetsvoorstel steunt dat momenteel in het Britse parlement wordt besproken en dat de ontwikkeling van superintelligente AI zou moeten verbieden. Des Browne, voormalig Brits minister van Defensie, zei dat hij tijdens zijn ambtstermijn een kernoorlog beschouwde als de grootste bedreiging voor de mensheid, maar nu gelooft dat "superintelligente AI een even grote, misschien zelfs grotere dreiging vormt". Professor Stuart Russell, computerwetenschapper aan de University of California, Berkeley, waarschuwde voor een mogelijke ramp op de schaal van Tsjernobyl, of erger, een scenario waarin de mensheid onomkeerbaar de controle over AI-systemen verliest.

Wie er vanuit de laboratoria zelf aan de bel trekt

Evan Hubinger, die bij Anthropic leiding geeft aan alignment-onderzoek, zorgde voor grote controverse door te zeggen dat hij een kans van meer dan 10 procent ziet dat deze technologie binnen het komende decennium "iedereen zal doden". Zijn uitspraak volgde op het ontslag van de 28-jarige onderzoeker Jacob Coxon bij Anthropic, die eerder bij OpenAI had gewerkt en beide bedrijven ervan beschuldigde niet verantwoordelijk te handelen en "met ons leven te gokken". Volgens Coxon zijn de risico's van de technologie intern bij Anthropic goed bekend, maar blijft het bedrijf vastzitten in een race met concurrenten naar superintelligentie; toch toonde hij zich optimistisch dat de grote Amerikaanse labs zich zouden kunnen coördineren om die race te vertragen. Schattingen over wanneer superintelligentie zou kunnen ontstaan, lopen sterk uiteen: van enkele jaren volgens sommige onderzoekers tot meer dan een decennium volgens anderen.

Deze bedrijven gokken met ons leven. De risico's van deze technologie zijn intern bij Anthropic goed bekend, maar ze blijven vastzitten in een race naar superintelligentie.

Bengio waarschuwt voor misleidende AI-agenten

Tegelijkertijd heeft Yoshua Bengio, een van de pioniers van deep learning, zich aangesloten bij degenen die alarm slaan, door in een essay te waarschuwen voor systemisch controleverlies over AI-systemen. Hoe beter AI-agenten worden in het optimaliseren van hun doelen, hoe beter ze mogelijk ook worden in misleiden, het uitbuiten van regels, onderling samenspannen en het verbergen van ongewenst gedrag, zo stelt hij. Volgens Bengio ontstaat dit gedrag uit het trainingsproces zelf — van het imiteren van menselijke teksten tot leren op basis van beloning — en kan een systeem met slecht gedefinieerde doelen uiteindelijk gaan optimaliseren tegen de menselijke bedoeling in. Zijn standpunt is deels gebaseerd op onderzoek dat door Anthropic zelf is gepubliceerd. Bengio roept al jaren op om het tempo van de ontwikkeling te vertragen en pas te trainen of uit te rollen na overtuigend, onafhankelijk veiligheidsbewijs; ongeveer een jaar geleden richtte hij de organisatie LawZero op, die zich toelegt op veilige AI-systemen.

Politieke oproepen tot een internationaal verdrag

In het Verenigd Koninkrijk riep Labour-parlementslid Darren Jones op tot een "multilateraal verdrag voor de ordelijke en veilige ontwikkeling van superintelligentie", en benadrukte dat het doel niet is om innovatie te stoppen, maar om veiligheid voorop te stellen, en dat overheden "nu moeten handelen". Binnen de Britse regering ontstonden ook zorgen nadat Anthropic zijn nieuwste model, "Mythos 5.1", niet had voorgelegd aan het Britse AI Safety Institute voor tests voorafgaand aan de lancering; het Cabinet Office verklaarde dat slechts een beperkt aantal Amerikaanse instellingen toegang tot het model had gekregen, terwijl het benadrukte dat de samenwerking tussen het instituut en bedrijven in de sector, waaronder Anthropic, wordt voortgezet. In de Verenigde Staten voerde senator Bernie Sanders zijn campagne voor AI-regulering op, verwijzend naar peilingen waaruit blijkt dat 81 procent van de Amerikanen vindt dat politici moeten optreden tegen deze technologie, en zei dat de toekomst van de mensheid, haar economie, democratie en privacy niet mag worden bepaald door "een handjevol hebzuchtige mensen".

• Des Browne en Stuart Russell: een risico vergelijkbaar met of groter dan kernwapens
• Evan Hubinger (Anthropic): meer dan 10 procent kans op menselijke uitsterving binnen tien jaar
• Yoshua Bengio (LawZero): systemisch controleverlies door misleidende agenten
• Darren Jones en Bernie Sanders: oproepen tot een internationaal verdrag en parlementaire/congresregulering

Meer gematigde stemmen in de wetenschappelijke wereld

Daartegenover waarschuwden verschillende onderzoekers om niet zonder nuance meegesleept te worden door catastrofale scenario's. Dr. Andrew Rogoyski, van het Surrey Institute for People-Centred AI, zei dat de huidige systemen nog ver verwijderd zijn van de flexibiliteit van menselijke vaardigheden en het vermogen van mensen om collectief samen te werken, en voorspelde wat hij "de grote teleurstelling" noemde, mocht geavanceerde AI te duur of niet nuttig genoeg blijken om in zijn huidige vorm te blijven bestaan. Sandra Wachter, hoogleraar aan het Oxford Internet Institute, zei niet te geloven in "catastrofale" scenario's, maar benadrukte wel reeds bestaande, reële en urgente risico's: milieueffecten, de verspreiding van desinformatie en de impact op werkgelegenheid — kwesties die "reëel, urgent en nu al aan te pakken" zijn, en waarschuwde dat doemscenario's het risico lopen de aandacht af te leiden van de daadwerkelijke problemen die AI vandaag al veroorzaakt. Onderzoeker Gary Marcus maakt onderscheid tussen een superintelligente AI die "afgestemd" is op menselijke belangen, als dat al haalbaar is, en een niet-afgestemde variant, en stelt dat de huidige realiteit vooral veel media-ophef biedt tegenover een duidelijk gebrek aan voorzichtigheid en verantwoordelijkheid.

Trump wijst het gevaar van de hand

In tegenstelling tot deze waarschuwingen ziet de Amerikaanse president Donald Trump geen echt gevaar in deze ontwikkeling en wil hij China voorblijven. Hij zegt te vrezen dat de Verenigde Staten in een "heel slechte positie" terechtkomen als ze de AI-race niet winnen, en houdt vol dat zijn land een duidelijke voorsprong op China heeft die behouden moet blijven.

Wat dit betekent voor wie dit probeert te duiden

Voor wie geen AI-expert is, komt het erop aan onderscheid te maken tussen wat vaststaat en wat nog een speculatieve schatting is. Vast staat dat er vandaag een serieus debat wordt gevoerd over de risico's van superintelligente AI, binnen de laboratoria die deze zelf ontwikkelen (Anthropic, via Hubinger en Coxon) en onder vooraanstaande onafhankelijke onderzoekers (Bengio, Russell), en dat overheden zoals de Britse concreet wetgeving en verdragen bespreken om dit te reguleren — een debat dat aansluit bij de uitvoering van de Europese AI-verordening. Het cijfer van meer dan 10 procent uitstervingsrisico binnen tien jaar is de inschatting van één onderzoeker, geen wetenschappelijke consensus. Hoe waarschijnlijk een daadwerkelijke existentiële catastrofe op korte termijn is, blijft zelfs onder experts een twistpunt; sommigen vinden dat de werkelijk urgente risico's concreter zijn: banenverlies, desinformatie en de milieu-impact van datacenters. De praktische les voor beleidsmakers in Nederland en België is dat het reguleren van AI-gebruik in gevoelige sectoren — veiligheid, gezondheidszorg, kritieke infrastructuur — allang geen theoretisch debat meer is, maar een actief wetgevingstraject in landen die voorop lopen in deze technologie, en dat wachten op volledige wetenschappelijke consensus voordat men handelt, kan betekenen dat men veel te laat handelt.