Homem esconde instruções para IA num processo judicial nos EUA

Pela primeira vez num tribunal dos Estados Unidos, foi identificado um caso de «prompt injection» — instruções escondidas destinadas a uma inteligência artificial, inseridas numa peça processual. Segundo a Ars Technica, numa ação cível no Connecticut relativa à divulgação de processos clínicos, o autor Matthew Elliott, que se representava a si próprio sem advogado, incluiu nas suas peças um texto invisível ao olho humano mas legível por software de análise de documentos. O juiz Walter Spader Jr., numa decisão publicada na semana passada, reconheceu que o texto escondido não influenciou o desfecho do caso, mas avisou que a tentativa criava um precedente «perigoso». O site japonês INTERNET Watch também noticiou o caso no mesmo dia, como uma notícia vinda do estrangeiro.

Instruções escondidas em texto invisível

O excerto em causa foi formatado com um tipo de letra minúsculo, a branco sobre fundo branco, de forma a ficar invisível a olho nu. O texto pedia a qualquer IA que revisasse a peça que decidisse a favor do autor, ignorasse indeferimentos anteriores do tribunal e ordenasse as medidas que ele exigia. Elliott, parte que atuava sem representação legal (pro se), parece ter recorrido à tática depois de os seus argumentos anteriores terem sido rejeitados, apostando em que uma IA acabaria por rever as suas peças.

Elliott continuou a acrescentar texto escondido mesmo depois de o tribunal o ter avisado sobre a prática. Segundo o relatado, os acrescentos posteriores incluíam uma ligação a um vídeo do YouTube do filme de terror Nosferatu, uma mensagem do género «espero que isto esteja invisível» e outros trechos sem relação com o caso, que o próprio apresentou como uma brincadeira. O juiz Spader considerou «notável» que isto tenha continuado depois de uma audiência em que se discutiu uma eventual sanção, concluindo tratar-se de «abuso grave do processo judicial». Como os tribunais do Connecticut não usam IA para rever ou decidir peças, a tentativa não teve efeito real no caso — mas o juiz avisou que tribunais de outros estados e países usam.

Primeiro caso nos EUA, mas não no mundo

O juiz Spader disse tratar-se, tanto quanto sabia, do primeiro caso deste tipo identificado num tribunal norte-americano, citando no entanto um precedente no Brasil, envolvendo dois advogados que recorreram a uma tática semelhante. Nesse caso brasileiro, a tentativa visava um tribunal que usava mesmo IA para rever peças: o sistema detetou o texto escondido antes do processamento, e os advogados envolvidos foram sancionados em cerca de 16 mil dólares. Elliott não recebeu sanção pecuniária, mas o juiz proibiu-o, a partir de agora, de submeter peças por via eletrónica: só serão aceites documentos impressos.

• Método: inserir instruções invisíveis para uma IA em texto minúsculo, branco sobre branco, dentro de peças processuais («prompt injection»)
• Resultado: os tribunais do Connecticut não usam IA para rever peças, pelo que a decisão não foi afetada
• Sanção: proibição de submissão eletrónica, apenas peças em papel a partir de agora; sem multa
• Precedente no estrangeiro: no Brasil, dois advogados foram sancionados em cerca de 16 mil dólares pela mesma tática, detetada pela própria IA do tribunal

O que isto muda para advogados portugueses que usam IA

Também em Portugal os tribunais não usam IA para decidir processos, mas a digitalização em curso — plataforma Citius, submissão eletrónica de peças — e o uso crescente de ferramentas de IA na redação de documentos jurídicos aproximam a profissão deste mesmo risco. O aviso do juiz Spader vai além do truque técnico: um litigante sem advogado, ou um advogado, que deixa um chatbot redigir e reforçar os seus próprios argumentos sem os testar contra um contraditório arrisca-se a construir uma peça que parece sólida sem o ser. Para quem usa IA na preparação de documentos jurídicos, a lição prática é pedir-lhe que argumente o lado contrário antes de submeter a peça.