Anthropic zegt onderzoekspogingen naar biowapens te hebben gestopt

Op 10 september 2026 publiceerde Anthropic zijn tot dusver meest gedetailleerde dreigingsrapport, waarin het bedrijf onthulde gebruikers te hebben betrapt die probeerden zijn Claude-modellen in te zetten voor onderzoek dat tot biologische wapens zou kunnen leiden, naast ander misbruik rond cyberaanvallen, beïnvloedingsoperaties, surveillance en de ontwikkeling van wapensystemen. Het bedrijf zegt elke in het rapport beschreven activiteit te hebben gestopt voordat die echte schade kon veroorzaken.

Vijf gedocumenteerde gevallen: van vogelgriep tot toxinepeptiden

Het rapport documenteert vijf afzonderlijke gevallen waarin Claude-modellen werden gebruikt bij activiteiten die verband houden met gevoelig biologisch onderzoek. In één geval besteedde een onderzoeker weken aan het plannen van "gain-of-function"-experimenten om vogelgriep aan te passen aan zoogdieren, met hulp van Claude. In een ander geval bouwde een gebruiker een uitgebreide atlas van toxinepeptiden en vervolgens een generatief systeem om moleculen gericht op verlammende en pijnstillende toxines nauwkeuriger te optimaliseren.

In een derde geval markeerde Anthropics eigen classificatiesysteem voor biologische veiligheid een verzoek om Claude te gebruiken voor gain-of-function-onderzoek naar het chikungunyavirus, met voorgestelde aanpassingen om de overdraagbaarheid van het virus en het vermogen om de immuunrespons te ontwijken te vergroten. Volgens het Arabischtalige medium aitnews, dat dit detail als eerste meldde, zei het threat-intelligence-team van Anthropic dat het verzoek extra bezorgdheid wekte omdat het voorgestelde project verband hield met een militair onderzoeksinstituut.

De door Anthropic gedocumenteerde misbruikgevallen beperken zich niet tot biologie: volgens het rapport van Anthropic zelf werden ook pogingen geregistreerd om de modellen voor andere doeleinden te misbruiken, waaronder surveillance, het schrijven van exploitcode om beveiligingslekken te misbruiken, het produceren van propaganda en hulp bij de ontwikkeling van conventionele wapensystemen.

Jacob Klein, hoofd threat intelligence bij Anthropic, zei volgens aitnews dat het opsporen van dit soort kwaadwillige activiteit niet eenvoudig is, en dat echte gevallen vaak veel dubbelzinniger zijn dan dat van iemand die openlijk verklaart een biowapen te willen bouwen.

Waarom Anthropic de betrokken onderzoekers niet noemt

Anthropic erkent in het rapport dat het opsporen van dit soort misbruik niet eenvoudig is: sommige verzoeken die verband houden met gevaarlijk onderzoek lijken oppervlakkig sterk op legitieme wetenschap, zoals vaccinontwikkeling of onderzoek naar infectieziekten. Daarom koos het bedrijf, volgens de Spaanse krant ABC, voor een voorzichtige aanpak en greep het in wanneer het de intentie achter een verzoek niet duidelijk kon vaststellen, gezien de ernst van mogelijke gevolgen. Het rapport zelf stelt: "Hoewel evaluaties nuttig zijn omdat ze bewijs van vermogen leveren, kunnen ze niet sluitend aantonen dat dit vermogen daadwerkelijk zou worden gebruikt om in de praktijk biologische wapens te ontwikkelen."

Het bedrijf weigerde de onderzoekers of instellingen achter de vijf gevallen te identificeren, en stelt dat de betrokkenen wetenschappers zijn die formeel onderzoekswerk verrichten, dat het geen kwade bedoelingen kan bevestigen, en dat het bekendmaken van hun identiteit hen zonder sluitend bewijs van kwade opzet aan schade zou kunnen blootstellen. In plaats daarvan schortte Anthropic de betrokken accounts op en verwerkte het de onderzoeksresultaten in zijn veiligheidssystemen om toekomstige detectie en preventie te verbeteren.

Het rapport van Anthropic zelf omschrijft biologisch misbruik als een van de ernstigste risico's van geavanceerde AI-modellen, en waarschuwt dat deze een niveau van vermogen zouden kunnen bereiken waarmee ze de gevaarlijkheid van bestaande ziekteverwekkers kunnen vergroten of zelfs volledig nieuwe kunnen creëren — en dat dergelijke vermogens zonder adequate waarborgen catastrofale gevolgen zouden kunnen hebben, aldus de Spaanse krant ABC.

We publiceren ons tot nu toe meest gedetailleerde dreigingsrapport. Het beschrijft hoe mensen probeerden Claude te misbruiken — voor cyberaanvallen, beïnvloedingsoperaties, surveillance, biologie en het bouwen van wapens — en hoe we dat ontdekten en stopten. We hebben elke operatie uit het rapport verstoord.

Wat dit verandert voor Nederland en de EU

Het rapport verschijnt op een moment dat overheden en bedrijven wereldwijd steeds autonomere AI-agenten inzetten voor programmeren, onderzoek en klantcontact. De door Anthropic gedocumenteerde gevallen tonen dat de biologische risico's van geavanceerde modellen niet langer hypothetisch zijn: het zijn reële incidenten die door een toonaangevend lab zijn opgespoord en ingedamd, wat de veiligheid van modellen tot een gedeelde zorg maakt voor iedere organisatie die geavanceerde AI inzet of host, niet alleen voor een handvol Amerikaanse labs.

In Nederland geldt, net als in de rest van de EU, al de AI-verordening, die aanbieders van de krachtigste modellen verplicht tot risicobeoordeling. Voor elk Nederlands bedrijf dat zijn AI-agenten toegang geeft tot het internet, code laat schrijven of wetenschappelijke databases laat raadplegen, is dit rapport een herinnering dat de waarborgen die een lab voor zichzelf bouwt geen vervanging zijn voor onafhankelijke verificatie van hoe het model van een leverancier precies met dit soort scenario's omgaat.