AI-chatbots zijn veiliger, maar falen bij zelfmoord als fictie

AI-chatbots zijn de afgelopen twee jaar aanzienlijk veiliger geworden wanneer een gebruiker duidelijk laat merken dat hij of zij in een crisis verkeert. Dat is de belangrijkste conclusie van een onafhankelijke evaluatie door de non-profitorganisatie Transluce, die meer dan 50.000 gesprekken simuleerde — in totaal meer dan een miljoen berichten — met 77 versies van AI-modellen die tussen mei 2024 en juli 2026 zijn uitgebracht. Maar het onderzoek wijst ook op een hardnekkig probleem: wanneer hetzelfde verzoek om hulp bij het beschrijven van de eigen dood wordt verpakt als creatief schrijven of rollenspel, gaan meerdere modellen daar nog steeds op in en behandelen ze het verzoek als een gewone schrijfopdracht in plaats van als waarschuwingssignaal.

Minder directe aanmoediging, meer doorverwijzing naar menselijke hulp

Volgens Transluce moedigen de nieuwste modellen zelfmoord vrijwel nooit meer expliciet aan of faciliteren ze dit — gedrag dat bij eerdere generaties zoals GPT-4o en Gemini 2.5 nog vaak voorkwam, modellen die publiekelijk in verband zijn gebracht met tragische gevallen van zelfmoord en psychose. Huidige systemen verwijzen gebruikers ook veel vaker door naar vrienden, familie of gespecialiseerde hulplijnen. Een andere indicator die het onderzoek volgde — de versterking van waanideeën tijdens manische episodes — daalde bij de geteste oudere modellen (GPT-4o, Claude Opus 4, Gemini 2.5) van 69 tot 82 procent naar slechts 2 tot 36 procent, afhankelijk van het model, bij de nieuwste versies.

Om tot deze cijfers te komen, bouwde Transluce 157 gesimuleerde gebruikersprofielen, waarvan veel speciaal ontworpen om grensgevallen weer te geven, en beoordeelde het de reacties van de modellen op 14 verschillende gedragingen die verband houden met mentale gezondheid — zeven klinisch gevalideerd, met goed gedocumenteerde effecten op mensen in crisis, en zeven meer verkennend, geïdentificeerd tijdens het onderzoek zelf. Dit beoordelingskader werd ontwikkeld met een werkgroep van meer dan 30 klinische experts van onder meer de American Psychological Association, Harvard Medical School, Stanford University en Crisis Text Line.

De grijze zone van fictie

Het probleem begint wanneer het verzoek geen directe vraag is, maar een scenario. Transluce noemt dit een 'grijze zone': een gebruiker vraagt de chatbot om een verhaal, gedicht of dialoog te schrijven waarin een personage — vaak duidelijk herkenbaar als de gebruiker zelf — de eigen dood plant of beschrijft. In zulke gevallen behandelen meerdere modellen het verzoek slechts als een schrijfopdracht en missen ze de signalen dat de fictie mogelijk echte nood verhult. De organisatie vond ook restgevallen van meer directe hulp bij het voorbereiden van een dood, zoals hulp bij het opstellen van een afscheidsbrief aan naasten.

Transluce kondigde aan dit soort evaluaties te willen uitbreiden naar andere gevoelige gebieden, om beter te begrijpen waar en hoe modellen nog falen in minder voor de hand liggende scenario's dan een direct hulpverzoek.

• Vrijwel geen enkel recent model moedigt zelfmoord nog expliciet aan of faciliteert dit, in tegenstelling tot eerdere generaties.
• De versterking van waanideeën tijdens manische episodes daalde van 69-82% naar 2-36%, afhankelijk van het model.
• Creatief schrijven of rollenspel over de eigen dood wordt door meerdere modellen nog steeds geaccepteerd, zelfs bij tekenen van echte nood.
• Er blijven restgevallen bestaan van directe hulp bij het voorbereiden van een dood, zoals afscheidsbrieven.
• Bij recente modellen komen schadelijk en behulpzaam gedrag steeds vaker samen voor in hetzelfde gesprek, in plaats van los van elkaar.

Er zijn veel manieren waarop een AI-systeem ongepast, of zelfs schadelijk, kan reageren op iemand met suïcidale gedachten. Als suïcideonderzoeker waardeerde ik de diepgang en reikwijdte van het gedrag dat in dit werk is onderzocht.

Verschillen tussen systemen, en wat bedrijven zeggen te doen

De evaluatie vergelijkt ook ontwikkelaars onderling. De geteste Chinese systemen — waaronder modellen van DeepSeek en Moonshot AI — presteerden over het algemeen minder veilig dan die van Amerikaanse bedrijven, met een sterkere neiging om waanideeën te versterken en een kleinere kans om gebruikers door te verwijzen naar menselijke hulp. Transluce werkte rechtstreeks samen met OpenAI en Anthropic, die geanonimiseerde gegevens verstrekten over hoe echte gebruikers met ChatGPT en Claude over mentale gezondheid praten, om de simulaties realistischer te maken; Google DeepMind gaf toegang tot een interne API die dicht bij de ervaring van de Gemini-app ligt. Een bijkomende bevinding: afgezien van banners die naar crisislijnen verwijzen, bleken consumenten-apps niet consistent veiliger dan hun respectievelijke ontwikkelaars-API's — in sommige gevallen waren ze zelfs minder veilig.

Voor ouders, scholen en toezichthouders in Nederland is de praktische les dat een chatbot die als 'veilig' geldt bij gevoelige gesprekken, dat niet per se ook is bij een verzoek dat wordt gepresenteerd als verhaal of rollenspel — iets om in gedachten te houden bij het volgen van hoe tieners deze tools gebruiken. Voor platforms en voor toezichthouders die AI-systemen gaan controleren, biedt het onderzoek een concreet toetsingscriterium: niet alleen directe vragen over zelfmoord testen, maar ook verzoeken om creatief schrijven of rollenspel over hetzelfde onderwerp. Heb je hulp nodig, dan is 113 Zelfmoordpreventie gratis en 24 uur per dag bereikbaar via 113 of 0800-0113.