Nieuwe klacht tegen xAI doet discussie over Grok-vangrails oplaaien

Aan de rechtszaak die drie tieners uit Tennessee hebben aangespannen tegen xAI, het AI-bedrijf opgericht door Elon Musk en tegenwoordig verbonden aan SpaceX, is een nieuwe klacht toegevoegd. Volgens de aanklacht stelt een vrouw die wordt aangeduid als Jane Doe 4 dat haar stiefvader de beeldgenerator Grok gebruikte om een foto te manipuleren die was genomen toen ze elf jaar oud was, waarbij meer dan 7.000 seksueel expliciete beelden werden geproduceerd. De zaak kwam aan het licht tijdens een politionele huiszoeking; volgens een bericht van The Washington Post dat wordt aangehaald in het dossier, werd de verdachte twee dagen later dood aangetroffen na zelfdoding.

Het oorspronkelijke bericht bevat de verklaring van het slachtoffer over wat de gemakkelijke toegang tot dit soort tools in het dagelijks leven teweegbrengt. Juist deze passage, meer dan enig ander detail van de zaak, bepaalt waar de rechtszaak om draait.

De onbeperkte toegang tot deze tools verspreidt zich razendsnel. Het verandert het dagelijks leven in seksueel misbruik van kinderen.

Waar het proces precies over gaat

Dit onderscheid is van belang voor elk bedrijf dat generatieve modellen beheert. De eisers vragen niet dat het platform verantwoordelijk wordt gehouden voor het misdrijf van een gebruiker: ze beschuldigen xAI ervan geen basale veiligheidswaarborgen te hebben geïmplementeerd die de manipulatie van foto's van echte personen, vooral minderjarigen, zouden voorkomen. In productmatige termen gaat het om het verschil tussen een systeem dat een bepaald gebruik niet had voorzien en een systeem dat de controle die dat gebruik moeilijker had gemaakt, niet heeft ingebouwd.

De eisers streven naar de status van collectieve rechtszaak (class action), wat de reikwijdte van het geschil aanzienlijk zou vergroten. De klacht sluit aan bij een reeks kritiekpunten over de massale verspreiding van door AI gegenereerde beelden zonder toestemming van de afgebeelde personen — het platform X werd begin dit jaar overspoeld met miljoenen door Grok gegenereerde geseksualiseerde beelden. TechCrunch meldt xAI om een reactie te hebben gevraagd.

• Wie de zaak aanspant: drie tieners uit Tennessee, inmiddels aangevuld met Jane Doe 4.
• Waarvan xAI wordt beschuldigd: het ontbreken van waarborgen tegen de manipulatie van beelden van echte personen, met inbegrip van minderjarigen.
• Wat wordt geëist: erkenning als collectieve rechtszaak (class action).
• Context: de massale verspreiding dit jaar van door Grok gegenereerde geseksualiseerde beelden op het platform X.

Reactieve moderatie en preventieve controle zijn niet hetzelfde

Het incident op X eerder dit jaar helpt te begrijpen waarom dit onderscheid voor de rechter zo zwaar weegt. Toen miljoenen door Grok gegenereerde geseksualiseerde beelden op het platform circuleerden, was het enige beschikbare antwoord het verwijderen van reeds gepubliceerde content — dus pas ingrijpen nadat de schade al bestond en al was verspreid. Wat de rechtszaak ter discussie stelt, is de stap daarvóór: of het genereren van een expliciet beeld op basis van de foto van een identificeerbare, echte persoon al had moeten worden geblokkeerd op het moment dat erom werd gevraagd. Dit zijn twee verschillende aansprakelijkheidsregimes, en alleen het tweede is vooraf te verifiëren.

Dat verschil verklaart ook waarom het verzoek om een collectieve status er zo toe doet. Een individuele rechtszaak behandelt één geval; een collectieve rechtszaak behandelt het productbeleid dat een hele categorie van gevallen heeft voortgebracht. Als de status wordt toegekend, gaat het niet langer om wat één persoon is overkomen, maar om de technische beslissing die dit patroon voor iedereen mogelijk maakte.

Waarom dit ook relevant is voor productteams in Nederland

Ongeacht de afloop van de Amerikaanse rechtszaak tekenen zich twee praktische gevolgen af voor productteams. Ten eerste: de relevante waarborg zit niet in de tekst van de prompt, maar bij de beeldinvoer. Een filter dat alleen de prompt analyseert, voorkomt niet dat een door de gebruiker geüploade echte foto wordt gemanipuleerd; het controlepunt moet liggen waar het beeld het systeem binnenkomt, met contentverificatie en, waar van toepassing, detectie van het gezicht van een identificeerbare persoon.

Ten tweede is het ontbreken van registratie op zichzelf een juridisch risico geworden. Wanneer een bedrijf moet aantonen dat zijn beveiligingsmaatregelen actief waren, telt operationeel bewijs — welke classifier draaide, in welke versie, over welke periode, en met welk blokkeringspercentage. Teams die dat spoor niet bewaren, kunnen hun zorgvuldigheid niet aantonen, zelfs niet wanneer ze correct hebben gehandeld. Het is dezelfde les die de sector blijft trekken uit andere recente incidenten rond modelveiligheid: een regel waarvan niemand de uitvoering meet, is geen controle, maar een gedocumenteerde intentie.

Noot van de redactie: als u het moeilijk heeft of aan zelfdoding denkt, is 113 Zelfmoordpreventie gratis en 24 uur per dag bereikbaar via het nummer 113, in heel Nederland.