Un hombre esconde instrucciones para una IA en documentos judiciales de EE. UU.

Por primera vez en un tribunal de Estados Unidos se ha detectado un caso de «prompt injection» —instrucciones ocultas dirigidas a una inteligencia artificial, insertadas en un escrito judicial—. Según Ars Technica, en una demanda civil en Connecticut sobre la divulgación de historiales médicos, el demandante Matthew Elliott, que se representaba a sí mismo sin abogado, incluyó en sus escritos un texto invisible para el ojo humano pero legible por el software que analiza documentos. El juez Walter Spader Jr., en una resolución publicada la semana pasada, reconoció que el texto oculto no influyó en el resultado del caso, pero advirtió de que el intento sentaba un precedente «peligroso». El medio japonés INTERNET Watch también informó del caso ese mismo día, como una noticia llegada del extranjero.

Instrucciones ocultas en texto invisible

El texto en cuestión estaba escrito con una fuente diminuta, en blanco sobre fondo blanco, de modo que resultaba invisible a simple vista. Pedía a cualquier IA que revisara el escrito que fallara a favor del demandante, ignorara los rechazos anteriores del tribunal y ordenara las medidas que él reclamaba. Elliott, parte que actuaba sin representación legal (pro se), parece haber recurrido a esta táctica después de que se desestimaran sus argumentos previos, apostando a que una IA acabara revisando sus documentos.

Elliott siguió añadiendo texto oculto incluso después de que el tribunal le advirtiera sobre la práctica. Según lo relatado, las adiciones posteriores incluían un enlace a un vídeo de YouTube de la película de terror Nosferatu, un mensaje del tipo «espero que esto sea invisible» y otros pasajes sin relación con el caso, que el propio Elliott presentó como una broma. El juez Spader calificó de «sorprendente» que continuara con esto después de una audiencia en la que se planteó una posible sanción, y concluyó que constituía un «abuso grave del proceso judicial». Como los tribunales de Connecticut no usan IA para revisar o decidir los escritos, el intento no tuvo efecto real sobre el caso, pero el juez advirtió de que sí se usa en tribunales de otros estados y países.

Un primer caso en EE. UU., no en el mundo

El juez Spader señaló que se trataba, hasta donde sabía, del primer caso de este tipo detectado en un tribunal estadounidense, aunque citó un precedente en Brasil con dos abogados que emplearon una táctica similar. En ese caso brasileño, el intento apuntaba a un tribunal que sí utilizaba IA para revisar los escritos: el sistema detectó el texto oculto antes de procesarlo, y los abogados implicados fueron sancionados con unos 16.000 dólares. Elliott no recibió sanción económica, pero el juez le ha prohibido a partir de ahora presentar escritos por vía electrónica: solo se aceptarán documentos impresos.

• Método: insertar instrucciones invisibles para una IA en texto diminuto, blanco sobre blanco, dentro de escritos judiciales («prompt injection»)
• Resultado: los tribunales de Connecticut no usan IA para revisar escritos, así que el fallo no se vio afectado
• Sanción: prohibición de presentar escritos electrónicos, solo en papel a partir de ahora; sin multa
• Precedente en el extranjero: en Brasil, dos abogados fueron sancionados con unos 16.000 dólares por la misma táctica, detectada por la propia IA del tribunal

Qué implica para abogados y litigantes hispanohablantes que usan IA

En los países de habla hispana, los tribunales tampoco emplean IA para dictar sentencia, pero la digitalización de los procesos judiciales —presentación electrónica de escritos, expedientes digitales— y el uso creciente de IA para redactar documentos legales acercan a la profesión a este mismo riesgo. La advertencia del juez Spader va más allá del truco técnico: un litigante sin abogado, o un abogado, que deja que un chatbot redacte y refuerce sus propios argumentos sin someterlos a una contraargumentación corre el riesgo de construir un escrito que parece sólido sin serlo. Para quien usa IA para preparar documentos legales, la lección práctica es pedirle que argumente en contra antes de presentar el escrito, no solo que defienda la postura propia.