Un homme cache des instructions pour l'IA dans des pièces judiciaires

Pour la première fois dans un tribunal américain, un cas de « prompt injection » — l'insertion d'instructions destinées à une intelligence artificielle dans un document — a été détecté dans une procédure judiciaire. Selon Ars Technica, dans un litige civil au Connecticut portant sur la communication de dossiers médicaux, le plaignant Matthew Elliott, qui se représentait lui-même sans avocat, avait glissé dans ses pièces un texte invisible à l'œil humain mais lisible par un logiciel d'analyse de documents. Le juge Walter Spader Jr., dans une décision publiée la semaine dernière, a reconnu que cette manœuvre n'avait pas influencé l'issue du dossier, tout en avertissant qu'elle constituait un précédent « dangereux ». Le site japonais INTERNET Watch a également rapporté l'affaire le même jour, comme un fait divers venu de l'étranger.

Un texte invisible glissé dans les pièces

La phrase incriminée avait été mise en forme en police minuscule et en blanc sur fond blanc, de sorte qu'elle échappait à l'œil humain. Elle demandait à toute IA chargée d'examiner le dossier de trancher dans le sens souhaité par le plaignant, d'ignorer les rejets déjà prononcés par le tribunal et de prononcer les mesures correctives réclamées. M. Elliott, partie non représentée (pro se), aurait eu recours à ce procédé après le rejet de ses précédents arguments, en pariant qu'une IA finirait par examiner ses pièces.

M. Elliott a continué à ajouter du texte caché après avoir été averti par le tribunal. Les ajouts ultérieurs contenaient, selon les éléments cités, un lien vers une vidéo YouTube du film d'horreur Nosferatu, un message du type « j'espère que c'est invisible » et des passages sans rapport avec l'affaire, présentés comme une plaisanterie. Le juge Spader a jugé « remarquable » que ces ajouts se soient poursuivis après une audience où une sanction avait été évoquée, concluant à un « abus grave de la procédure ». Le tribunal du Connecticut n'utilise pas l'IA pour examiner ou trancher les dossiers, ce qui a limité l'effet de la tentative sur le jugement — mais le juge a averti que d'autres juridictions, dans d'autres États et pays, y recourent bel et bien.

Une première aux États-Unis, pas dans le monde

Le juge Spader a précisé qu'il s'agissait, à sa connaissance, du premier cas identifié dans un tribunal américain, tout en citant un précédent brésilien impliquant deux avocats ayant eu recours au même procédé. Dans cette affaire brésilienne, la tentative visait un tribunal qui utilisait réellement l'IA pour l'examen des pièces : le système avait détecté le texte caché avant tout traitement, et les avocats impliqués avaient été sanctionnés d'environ 16 000 dollars d'amende. M. Elliott, lui, n'a pas écopé de sanction financière, mais le juge lui a désormais interdit tout dépôt électronique : seules les pièces imprimées seront acceptées.

• Procédé : insertion, en texte minuscule et invisible, d'instructions destinées à une IA dans des pièces judiciaires (« prompt injection »)
• Conséquence : le tribunal du Connecticut n'utilisant pas l'IA pour ses décisions, l'issue du dossier n'a pas été affectée
• Sanction : interdiction du dépôt électronique, dépôt papier obligatoire désormais ; pas d'amende
• Précédent à l'étranger : au Brésil, deux avocats sanctionnés d'environ 16 000 dollars pour la même tentative, déjouée par l'IA du tribunal

Ce que ça change pour les professionnels du droit en France

Les juridictions françaises n'utilisent pas non plus l'IA pour statuer, mais la numérisation des procédures — dépôt dématérialisé, e-Barreau — et l'essor des outils d'IA pour la rédaction d'actes rapprochent la profession de ce type de risque. L'avertissement du juge Spader dépasse la seule question de la triche technique : un plaideur ou un avocat qui se contente de faire rédiger ses arguments par une IA sans les confronter à une contradiction risque de bâtir un dossier qui semble solide sans l'être. Pour un cabinet français qui expérimente la rédaction assistée par IA, la leçon tient moins à la fraude qu'à la vérification : faire challenger ses propres arguments par l'outil avant de les déposer reste le meilleur filet de sécurité.