Homem esconde instruções para IA em processo judicial nos EUA

Pela primeira vez em um tribunal dos Estados Unidos, foi identificado um caso de «prompt injection» — instruções ocultas voltadas a uma inteligência artificial, inseridas em uma petição judicial. Segundo a Ars Technica, em uma ação civil em Connecticut sobre a divulgação de prontuários médicos, o autor Matthew Elliott, que se representava sozinho, sem advogado, incluiu em suas petições um texto invisível ao olho humano, mas legível por softwares de análise de documentos. O juiz Walter Spader Jr., em decisão publicada na semana passada, reconheceu que o texto oculto não influenciou o resultado do caso, mas alertou que a tentativa criava um precedente «perigoso». O site japonês INTERNET Watch também noticiou o caso no mesmo dia, como uma notícia vinda do exterior.

Instruções escondidas em texto invisível

O trecho em questão foi formatado em fonte minúscula, em branco sobre fundo branco, de modo a ficar invisível a olho nu. O texto pedia que qualquer IA que revisasse a petição decidisse a favor do autor, ignorasse rejeições anteriores do tribunal e determinasse as medidas que ele exigia. Elliott, parte que atuava sem representação legal (pro se), parece ter recorrido à tática depois que seus argumentos anteriores foram rejeitados, apostando que uma IA acabaria revisando suas petições.

Elliott continuou adicionando texto oculto mesmo depois de o tribunal alertá-lo sobre a prática. Segundo o relato, as adições posteriores incluíam um link para um vídeo no YouTube do filme de terror Nosferatu, uma mensagem do tipo «espero que isso esteja invisível» e outros trechos sem relação com o caso, apresentados por ele como uma brincadeira. O juiz Spader considerou «notável» que isso tenha continuado depois de uma audiência em que se discutiu uma possível sanção, concluindo que se tratava de «abuso grave do processo judicial». Como os tribunais de Connecticut não usam IA para revisar ou decidir petições, a tentativa não teve efeito real sobre o caso — mas o juiz alertou que tribunais de outros estados e países usam.

Primeiro caso nos EUA, mas não no mundo

O juiz Spader disse que este parecia ser o primeiro caso do tipo identificado em um tribunal americano, mas citou um precedente no Brasil, envolvendo dois advogados que usaram uma tática semelhante. No caso brasileiro, a tentativa mirava um tribunal que de fato usava IA para revisar petições: o sistema detectou o texto oculto antes do processamento, e os advogados envolvidos foram multados em cerca de 16 mil dólares. Elliott não recebeu sanção financeira, mas o juiz agora proibiu o envio eletrônico de novas petições: só serão aceitos documentos impressos.

• Método: inserir instruções invisíveis para uma IA em texto minúsculo, branco sobre branco, dentro de petições judiciais («prompt injection»)
• Resultado: os tribunais de Connecticut não usam IA para revisar petições, então a decisão não foi afetada
• Sanção: proibição do envio eletrônico, só petições em papel a partir de agora; sem multa
• Precedente no Brasil: dois advogados multados em cerca de 16 mil dólares pela mesma tática, detectada pela própria IA do tribunal

O que isso significa para advogados brasileiros que usam IA

O caso brasileiro citado pelo juiz americano não é hipotético: a Justiça brasileira já flagrou e multou advogados que tentaram o mesmo truque em um tribunal que efetivamente usa IA para revisar petições — o que mostra que o risco já é real por aqui, não só nos EUA. Para advogados e partes que usam ferramentas de IA na redação de petições no Brasil, o alerta do juiz Spader vale mesmo sem a fraude: deixar um chatbot apenas reforçar os próprios argumentos, sem testá-los contra um contraditório, pode produzir uma peça que parece sólida sem ser. A prática mais segura é pedir à IA que argumente o lado contrário antes de protocolar a petição.