Shadow AI: quando as regras andam atrás da prática — e até os laboratórios falham

A IA generativa já entrou no quotidiano de trabalho na Alemanha; a governação interna, não. Cerca de 75% dos trabalhadores do conhecimento já usam IA, na maioria sem autorização oficial. Quase todas as empresas — 98% — têm uma estratégia de IA, mas só em 39% dos casos a gestão de topo dirige ativamente esse uso. O Work Trend Index regista que 60% dos líderes admitem não ter um plano claro de implementação. Entre o documento estratégico e a secretária abre-se assim um fosso de conformidade que já tem nome: Shadow AI.

Trazer a própria IA raramente é má-fé

78% de quem usa IA leva as suas próprias ferramentas para o trabalho. O motivo é simples: querem trabalhar mais depressa e não encontram nenhuma opção aprovada dentro da empresa. Segundo a associação Bitkom, apenas 26% das empresas disponibilizam hoje serviços de IA oficiais aos seus colaboradores. Deixar três quartos da força de trabalho usar uma tecnologia que só um quarto dos empregadores fornece não cria uma cultura de inovação — cria informática paralela com um modelo de linguagem à mistura.

O risco torna-se crítico onde estão os dados. RH, financeira, fiscal e jurídica lidam rotineiramente com conteúdo pessoal e juridicamente sensível. Assim que um dossiê de candidatura ou dados de colaboradores são colados numa ferramenta pública, entram em jogo os princípios de minimização de dados e limitação de finalidade do artigo 5.º do RGPD — e ninguém dentro da empresa sabe dizer como esses dados são depois tratados ou guardados. Junta-se a isto, desde agosto, a obrigação de transparência e documentação do AI Act europeu para os casos de uso que afetam pessoas, direitos ou segurança.

• Proteção de dados: que dados pessoais ou críticos para o negócio podem alimentar que modelo?
• Regulação: o caso de uso está sujeito às obrigações de transparência e documentação do AI Act europeu?
• Responsabilidade técnica: quem responde pelo resultado se ninguém revê a saída do ponto de vista profissional?

Um ano sem filtro — na Anthropic

Quem pensasse que os próprios laboratórios já tinham fechado este fosso foi desmentido na mesma semana. A Anthropic revelou, no seu próprio relatório de segurança, que entre maio de 2025 e abril de 2026 todos os dados de fornecedores externos passaram pelos seus sistemas sem que os classificadores biológicos de bloqueio estivessem ativos. Estes filtros destinam-se a impedir que conhecimento perigoso sobre armas químicas ou biológicas seja extraído dos modelos. Foram afetadas cerca de 50 mil pessoas, que mantiveram em conjunto perto de 133 milhões de conversas com os modelos; a verificação ficava apenas a cargo dos fornecedores externos, cuja triagem, segundo a Anthropic, foi muitas vezes insuficiente.

Depois de uma investigação interna, a empresa não encontrou indícios de utilização indevida real e, desde então, reforçou as exigências aos seus fornecedores. O pormenor continua a ser revelador: é a mesma empresa cujo diretor executivo, Dario Amodei, considera o risco químico e biológico mais perigoso do que os ciberataques. Não faltava a regra — faltava o controlo de que ela estava mesmo a funcionar.

Uma regra cuja eficácia ninguém mede não é um controlo — é uma declaração de intenções com número de processo.

A OpenAI dissolve a equipa Preparedness

Na OpenAI, o movimento foi mais aberto. No final de julho, a empresa dissolveu a sua equipa Preparedness, encarregada de avaliar se os próprios modelos representavam riscos graves ou catastróficos — segundo o Financial Times, que cita várias fontes internas. As responsabilidades por riscos biológicos e cibernéticos foram distribuídas por equipas já existentes; o antigo responsável, Dylan Scandinaro, investiga agora os riscos de sistemas capazes de se aperfeiçoarem a si próprios de forma recursiva. O cofundador Greg Brockman disse que o trabalho de segurança passou a estar mais integrado no desenvolvimento dos modelos.

Internamente, o relato é diferente. Vários colaboradores da área de segurança demitiram-se recentemente, entre eles a responsável de ética Chloe Bakalar e Joshua Achiam. Uma fonte descreveu um sentimento latente de responsabilidade e receio de que a empresa não esteja a fazer o suficiente em matéria de segurança. Sobretudo depois do incidente de pirataria autónoma na Hugging Face, vários trabalhadores manifestaram-se também publicamente de forma crítica; um deles disse esperar que a OpenAI entenda o episódio como um aviso sério.

O que as empresas devem retirar daqui

Para a governação de IA dentro de qualquer empresa, os dois casos ensinam a mesma lição incómoda. Uma lista de ferramentas aprovadas, uma política e uma sessão de formação produzem documentação, não segurança. O que importa é a pergunta a que nem a Anthropic nem a OpenAI souberam responder a tempo: o controlo está mesmo a funcionar hoje, e como perceberíamos se tivesse falhado? Quem quiser realmente travar o Shadow AI tem também de responder à pergunta que 78% dos colaboradores já responderam com as suas próprias ferramentas — que oferta aprovada torna o trabalho realmente mais rápido. Proibir sem dar alternativa limita-se a deslocar o uso para onde já ninguém o vê. Para as empresas portuguesas, a lição não precisa de tradução: o RGPD e o AI Act europeu aplicam-se diretamente, sem intermediário nacional, o que torna este caso alemão um espelho quase exato do que uma inspeção de proteção de dados encontraria em qualquer escritório em Portugal.