Mann versteckt KI-Anweisungen in US-Gerichtsunterlagen

Erstmals ist an einem US-Gericht ein Fall von „Prompt Injection" aufgetaucht — versteckte, an eine KI gerichtete Anweisungen in einem Gerichtsdokument. Laut Ars Technica hatte der Kläger Matthew Elliott, der sich in einem Zivilprozess in Connecticut über die Herausgabe von Krankenakten selbst vertrat, in seinen Schriftsätzen Text versteckt, der für Menschen unsichtbar, für dokumentenlesende Software aber erkennbar war. Richter Walter Spader Jr. stellte in einer vergangene Woche veröffentlichten Entscheidung fest, dass der versteckte Text den Ausgang des Verfahrens nicht beeinflusst habe, warnte aber, der Versuch selbst schaffe einen „gefährlichen" Präzedenzfall. Auch das japanische Portal INTERNET Watch berichtete am selben Tag über den Fall, als Meldung aus dem Ausland.

Anweisungen in unsichtbarem Text versteckt

Der fragliche Textabschnitt war in winziger Schriftgröße und weißer Schrift auf weißem Hintergrund formatiert, sodass er mit bloßem Auge nicht zu erkennen war. Er forderte jede KI, die den Schriftsatz prüft, auf, zugunsten des Klägers zu entscheiden, frühere Abweisungen des Gerichts zu ignorieren und die von ihm geforderten Abhilfemaßnahmen anzuordnen. Elliott, der als Prozesspartei ohne anwaltliche Vertretung (pro se) auftrat, griff offenbar zu diesem Mittel, nachdem seine bisherigen Argumente zurückgewiesen worden waren — in der Hoffnung, dass irgendwann eine KI seine Unterlagen prüfen würde.

Elliott fügte auch nach einer Warnung des Gerichts weiter versteckten Text hinzu. Spätere Ergänzungen enthielten Berichten zufolge einen Link zu einem YouTube-Video des Horrorfilms Nosferatu, eine Nachricht in der Art von „hoffentlich ist das unsichtbar" sowie weitere, mit dem Fall nicht zusammenhängende, sinnlose Passagen, die Elliott als Scherz bezeichnete. Richter Spader nannte es „bemerkenswert", dass dies nach einer Anhörung, in der eine Sanktion zur Sprache kam, fortgesetzt wurde, und kam zu dem Schluss, es handle sich um „schweren Missbrauch des Gerichtsverfahrens". Da Gerichte in Connecticut keine KI zur Prüfung oder Entscheidung von Schriftsätzen einsetzen, hatte der Versuch keine tatsächliche Auswirkung auf das Verfahren — der Richter warnte jedoch, dass Gerichte in anderen Bundesstaaten und Ländern das durchaus tun.

Erster Fall in den USA, aber nicht weltweit

Richter Spader erklärte, es handle sich seines Wissens um den ersten derartigen Fall an einem US-Gericht, verwies aber auf einen Präzedenzfall in Brasilien mit zwei Anwälten, die eine ähnliche Taktik anwandten. In diesem brasilianischen Fall richtete sich der Versuch gegen ein Gericht, das tatsächlich KI zur Prüfung von Schriftsätzen einsetzte: Das System erkannte den versteckten Text vor der Verarbeitung, und die beteiligten Anwälte wurden mit umgerechnet rund 16.000 Dollar Strafe belegt. Elliott wurde nicht finanziell sanktioniert, doch der Richter untersagte ihm künftige elektronische Einreichungen — von nun an werden nur gedruckte Unterlagen akzeptiert.

• Methode: winzige, weiße Schrift auf weißem Grund mit für Menschen unsichtbaren, an eine KI gerichteten Anweisungen in Gerichtsunterlagen („Prompt Injection")
• Ergebnis: Gerichte in Connecticut nutzen keine KI zur Prüfung von Schriftsätzen, das Urteil blieb unbeeinflusst
• Sanktion: Verbot elektronischer Einreichungen, künftig nur noch Papierdokumente; keine Geldstrafe
• Präzedenzfall im Ausland: In Brasilien wurden zwei Anwälte für dieselbe Taktik mit rund 16.000 Dollar Strafe belegt, entdeckt von der KI des Gerichts selbst

Was das für Juristen in Deutschland bedeutet, die KI nutzen

Auch deutsche Gerichte setzen bislang keine KI zur Entscheidungsfindung ein, doch der fortschreitende Ausbau des elektronischen Rechtsverkehrs (beA, elektronisches Gerichts- und Verwaltungspostfach) und der wachsende Einsatz von KI-Tools bei der Erstellung von Schriftsätzen rücken die Branche näher an dieses Risiko heran. Die eigentliche Warnung von Richter Spader reicht über den technischen Trick hinaus: Wer als Partei ohne anwaltliche Vertretung oder als Anwalt einen KI-Chatbot lediglich die eigenen Argumente ausformulieren und bestärken lässt, ohne sie einer Gegenrede auszusetzen, riskiert einen Schriftsatz, der solide wirkt, es aber nicht ist. Wer KI zur Vorbereitung juristischer Dokumente nutzt, sollte sie deshalb vor der Einreichung bewusst die Gegenposition vertreten lassen.