Marcas de água em texto gerado por IA permanecem fáceis de remover apesar de novas exigências legais

O artigo 50 do Regulamento Europeu de IA, que entra em vigor em agosto de 2026, obriga os fornecedores de sistemas de IA generativa a incorporar sinais detectáveis no conteúdo gerado por IA, "na medida tecnicamente possível". A cláusula destinava‑se a dar às autoridades uma base forense contra textos sintéticos não declarados.

Na prática, a exigência colide com a natureza do texto como um meio altamente compressível. Alterar uma palavra preservando significado, estilo e legibilidade deixa muito pouco espaço invisível para um padrão oculto, ao contrário das imagens onde alterações subtis nos píxeis podem sobreviver à compressão.

Marcas de água estatísticas baseadas em tokens

O SynthID da Google exemplifica uma abordagem probabilística de seleção de tokens. Ao enviesar a escolha de certos tokens durante a geração, o sistema cria uma impressão digital estatística que pode ser detectada por um classificador treinado sem qualquer marca visível.

A fiabilidade do método depende da sequência exata das escolhas de vocabulário. Quando um utilizador subsequente reescreve ou parafraseia o output, a impressão digital colapsa porque a ordem alterada dos tokens já não corresponde à distribuição esperada.

Marcas de água por homógrafos Unicode

Outra técnica proposta insere homógrafos Unicode — caracteres que aparentam ser idênticos aos padrão mas têm pontos de código diferentes, como um espaço não‑quebrável que parece um espaço normal. Ao espalhar esses caracteres invisíveis ao longo de um documento, pode‑se incorporar um padrão de baixo custo.

As pipelines padrão de processamento de texto normalizam habitualmente o Unicode, convertendo todas as variantes para as suas formas canónicas. Esta normalização automática elimina o padrão de homógrafos sem afectar o texto visível, apagando efetivamente a marca de água.

Metadados e assinaturas C2PA

As assinaturas da Content Authenticity Initiative (C2PA) podem certificar a proveniência quando anexadas a um ficheiro. Contudo, o texto simples copiado de uma janela de chat perde o ficheiro de metadados associado, e a assinatura pode ser removida simplesmente ao eliminar o contêiner que a contém.

• Marcas de água baseadas em viés de token (por exemplo, SynthID) dependem da distribuição estatística dos tokens
• A inserção de homógrafos usa caracteres Unicode visualmente idênticos
• Ambas as técnicas podem ser removidas ao parafrasear ou normalizar o Unicode
• Os metadados C2PA são desvinculados quando o texto é copiado e podem ser descartados

O post no blog de Sean Goedecke observa que alguns fornecedores podem estar a experimentar marcas de água com homógrafos, mas enquadra a observação como especulação e não como prática confirmada. A falta de confirmação oficial sublinha a incerteza quanto à adoção pela indústria.

A ênfase da UE na interoperabilidade e transparência, embora pretendida para simplificar a verificação legítima, enfraquece paradoxalmente qualquer proteção que dependa do segredo do algoritmo de marcação. Se o método de deteção for de conhecimento público, os adversários podem criar ferramentas de remoção mais facilmente.

Para organizações em Portugal, a implicação prática é limitada. As equipas de conformidade devem documentar que os seus sistemas de IA tentam incorporar um sinal detectável, mas não podem contar com a sua sobrevivência a edições rotineiras, operações de copiar‑colar ou pipelines padrão de processamento de texto.

Assim, as avaliações de risco jurídico devem focar‑se nas políticas de divulgação e nos registos de auditoria, em vez da durabilidade técnica das marcas de água. A transparência na comunicação ao utilizador final mantém‑se como a principal salvaguarda legal.

Além disso, as autoridades reguladoras portuguesas poderão optar por inspeções pontuais que confrontem o código‑fonte dos sistemas de IA, em vez de confiar exclusivamente em análises forenses de texto já distribuído.

Em suma, embora o AI Act imponha a inserção de marcas de água detectáveis, as técnicas atualmente estudadas — viés de token, homógrafos Unicode e metadados C2PA — revelam vulnerabilidades técnicas que permitem a sua remoção com esforço moderado. A eficácia real da norma dependerá de futuras inovações que consigam tornar a marca resistente a normalizações e reescritas.