Marcas de Texto em IA na Europa Ainda São Fáceis de Remover Mesmo com Novas Exigências Legais

O Artigo 50 do Regulamento de IA da União Europeia, que entra em vigor em agosto de 2026, impõe aos provedores de sistemas de IA generativa a obrigação de inserir sinais detectáveis no conteúdo produzido por IA, "na medida tecnicamente possível". Essa cláusula foi criada para oferecer às autoridades uma base forense capaz de identificar textos sintéticos que não sejam devidamente divulgados.

Na prática, a exigência entra em conflito direto com a própria natureza do texto, que é um meio extremamente compressível. Quando se altera uma palavra mantendo sentido, estilo e legibilidade, o espaço invisível disponível para um padrão oculto se reduz drasticamente, ao contrário do que ocorre com imagens, onde pequenas variações de pixels podem sobreviver à compressão sem comprometer a qualidade visual.

Marcas Estatísticas Baseadas em Tokens

O SynthID, desenvolvido pelo Google, ilustra uma abordagem probabilística que controla a escolha de tokens durante a geração. Ao enviesar a seleção de determinados tokens, o sistema cria uma impressão digital estatística que pode ser detectada por um classificador treinado, sem a necessidade de uma marca visível no texto.

Entretanto, a confiabilidade desse método depende totalmente da sequência exata dos tokens escolhidos. Quando um usuário reescreve ou faz paráfrase da saída gerada, a impressão digital colapsa, pois a ordem alterada dos tokens não corresponde mais à distribuição esperada pelo modelo de detecção.

Marcas com Homógrafos Unicode

Outra técnica proposta consiste em inserir homógrafos Unicode – caracteres que são visualmente idênticos aos padrões, mas possuem pontos de código diferentes, como um espaço não‑quebrável que parece um espaço comum. Ao distribuir esses caracteres invisíveis ao longo de um documento, é possível incorporar um padrão de baixo custo que, em teoria, seria difícil de perceber a olho nu.

Na realidade, os pipelines padrão de processamento de texto realizam normalização Unicode de forma rotineira, convertendo todas as variantes para suas formas canônicas. Essa normalização automática elimina o padrão de homógrafos sem alterar o texto visível, efetivamente apagando a marca inserida.

Metadados e Assinaturas C2PA

Assinaturas da Content Authenticity Initiative (C2PA) podem certificar a procedência de um arquivo quando anexadas a ele. Contudo, quando o texto simples é copiado de uma janela de chat, o arquivo de metadados associado se perde, e a assinatura pode ser removida simplesmente ao eliminar o contêiner que a contém.

• Marcas de viés de token (ex.: SynthID) dependem da distribuição estatística de tokens
• A inserção de homógrafos usa caracteres Unicode visualmente idênticos
• Ambas as técnicas podem ser removidas por paráfrase ou normalização Unicode
• Metadados C2PA são desanexados quando o texto é copiado e podem ser descartados

O post no blog de Sean Goedecke aponta que alguns provedores podem estar experimentando marcas com homógrafos, mas ele apresenta essa observação como especulação, não como prática confirmada. A ausência de confirmação oficial destaca a incerteza sobre a adoção efetiva dessas técnicas pela indústria.

A ênfase da UE em interoperabilidade e transparência, embora pretendida para simplificar a verificação legítima, acaba por enfraquecer paradoxalmente qualquer proteção que dependa do sigilo do algoritmo de marcação. Se o método de detecção for de conhecimento público, adversários podem desenvolver ferramentas de remoção com relativa facilidade.

Para organizações brasileiras, o impacto prático é relativamente modesto. As equipes de conformidade precisam registrar que seus sistemas de IA tentam incorporar um sinal detectável, mas não podem contar que esse sinal sobreviva a edições rotineiras, operações de copiar‑colar ou pipelines padrão de processamento de texto.

Consequentemente, as avaliações de risco legal devem focar em políticas de divulgação clara, manutenção de trilhas de auditoria robustas e treinamento de usuários, em vez de confiar na durabilidade técnica das marcas inseridas nos textos gerados por IA.

Além disso, é recomendável que as empresas monitorem continuamente as evoluções das diretrizes da Comissão Europeia, pois futuras emendas ao AI Act podem exigir mecanismos de marcação mais resilientes, possivelmente envolvendo criptografia ou assinaturas digitais integradas ao próprio fluxo de geração.

Em termos de implementação, desenvolvedores podem considerar a combinação de múltiplas técnicas – por exemplo, usar tanto marcação estatística quanto inserção controlada de homógrafos – para dificultar a remoção completa, embora isso aumente a complexidade e o custo operacional.

Por fim, a comunidade acadêmica tem sinalizado a necessidade de pesquisas aprofundadas sobre watermarking de texto, buscando soluções que resistam a transformações comuns como reformulação, tradução automática e normalização Unicode, sem comprometer a fluência linguística.

No contexto brasileiro, a Autoridade Nacional de Proteção de Dados (ANPD) ainda não emitiu regulamentação específica sobre marcas de texto em IA, mas observa atentamente as discussões europeias, o que pode influenciar futuras normas locais.