Man verstopt AI-instructies in Amerikaans rechtbankdossier

Voor het eerst is bij een Amerikaanse rechtbank een geval van „prompt injection" ontdekt — verborgen, aan AI gerichte instructies verwerkt in een gerechtelijk document. Volgens Ars Technica had eiser Matthew Elliott, die zichzelf zonder advocaat vertegenwoordigde in een civiele zaak in Connecticut over de vrijgave van medische dossiers, in zijn processtukken tekst verstopt die voor mensen onzichtbaar was, maar wel leesbaar voor software die documenten analyseert. Rechter Walter Spader Jr. stelde in een vorige week gepubliceerde uitspraak vast dat de verborgen tekst de uitkomst van de zaak niet had beïnvloed, maar waarschuwde dat de poging zelf een „gevaarlijk" precedent schept. Ook de Japanse site INTERNET Watch berichtte dezelfde dag over de zaak, als nieuws uit het buitenland.

Instructies verstopt in onzichtbare tekst

De betreffende passage was opgemaakt in een piepklein lettertype, wit op een witte achtergrond, zodat ze met het blote oog niet te zien was. De instructie vroeg elke AI die het document zou beoordelen om in het voordeel van de eiser te beslissen, eerdere afwijzingen van de rechtbank te negeren en de door hem geëiste maatregelen te bevelen. Elliott, die als procespartij zonder advocaat (pro se) optrad, greep naar deze tactiek nadat zijn eerdere argumenten waren afgewezen, gokkend dat een AI zijn stukken uiteindelijk zou beoordelen.

Elliott bleef verborgen tekst toevoegen, ook nadat de rechtbank hem hierover had gewaarschuwd. Latere toevoegingen bevatten volgens de berichtgeving een link naar een YouTube-video van de horrorfilm Nosferatu, een boodschap in de trant van „hopelijk is dit onzichtbaar" en andere, met de zaak niets te maken hebbende onzinnige tekst, die Elliott als grap omschreef. Rechter Spader noemde het „opmerkelijk" dat dit doorging na een zitting waarin een sanctie ter sprake kwam, en concludeerde dat het om „ernstig misbruik van de procesgang" ging. Omdat rechtbanken in Connecticut geen AI gebruiken om stukken te beoordelen of te beslissen, had de poging geen werkelijk effect op de zaak — maar de rechter waarschuwde dat rechtbanken in andere staten en landen dat wel doen.

Eerste geval in de VS, niet wereldwijd

Rechter Spader zei dat dit voor zover hij wist het eerste geval van dit soort was dat bij een Amerikaanse rechtbank werd ontdekt, maar verwees naar een eerder geval in Brazilië met twee advocaten die een vergelijkbare tactiek gebruikten. In die Braziliaanse zaak richtte de poging zich tegen een rechtbank die daadwerkelijk AI gebruikte om stukken te beoordelen: het systeem detecteerde de verborgen tekst voordat die werd verwerkt, en de betrokken advocaten kregen een sanctie van omgerekend zo'n 16.000 dollar. Elliott kreeg geen financiële sanctie, maar de rechter verbood hem voortaan elektronisch stukken in te dienen — voortaan worden alleen gedrukte documenten geaccepteerd.

• Methode: onzichtbare, piepkleine witte tekst op witte achtergrond met AI-instructies in processtukken verwerken („prompt injection")
• Resultaat: rechtbanken in Connecticut gebruiken geen AI om stukken te beoordelen, de uitspraak zelf bleef onaangetast
• Sanctie: verbod op elektronisch indienen, voortaan alleen papieren stukken; geen boete
• Precedent in het buitenland: in Brazilië kregen twee advocaten een sanctie van zo'n 16.000 dollar voor dezelfde tactiek, ontdekt door de AI van de rechtbank zelf

Wat dit betekent voor Nederlandse juristen die AI gebruiken

Ook Nederlandse rechtbanken gebruiken vooralsnog geen AI om uitspraken te doen, maar de opmars van digitale procesvoering — zoals het systeem Mijn Rechtspraak voor elektronisch indienen — en het groeiende gebruik van AI-tools bij het opstellen van juridische stukken brengen de sector dichter bij ditzelfde risico. De waarschuwing van rechter Spader gaat verder dan de technische truc: een procespartij zonder advocaat, of een advocaat, die een AI-chatbot enkel de eigen argumenten laat aandikken zonder ze tegen een tegenargument te toetsen, loopt het risico een stuk te bouwen dat solide oogt, maar dat niet is. Voor wie AI gebruikt bij het voorbereiden van juridische documenten is de praktische les om de AI vóór indiening eerst de tegenpartij te laten verdedigen.