Shadow AI: quando as regras ficam para trás — e até os laboratórios erram

A IA generativa já faz parte da rotina de trabalho na Alemanha; a governança interna, não. Cerca de 75% dos trabalhadores do conhecimento já usam IA, na maioria das vezes sem autorização oficial. Quase todas as empresas — 98% — têm uma estratégia de IA, mas em apenas 39% dos casos a alta liderança conduz ativamente esse uso. O Work Trend Index registra que 60% dos líderes admitem não ter um plano claro de implementação. Entre o documento estratégico e a mesa de trabalho se abre, assim, uma lacuna de conformidade que já tem nome: Shadow AI.

Trazer sua própria IA raramente é má-fé

78% dos usuários de IA levam suas próprias ferramentas para o trabalho. O motivo é simples: querem trabalhar mais rápido e não encontram nenhuma opção aprovada dentro da empresa. Segundo a associação Bitkom, apenas 26% das empresas hoje oferecem serviços de IA oficiais aos funcionários. Deixar três quartos da força de trabalho usar uma tecnologia que só um quarto dos empregadores disponibiliza não cria uma cultura de inovação — cria uma TI paralela com modelo de linguagem embutido.

O risco se torna crítico onde estão os dados. RH, financeiro, fiscal e jurídico lidam rotineiramente com conteúdo pessoal e juridicamente sensível. No momento em que um currículo ou dados de funcionários são colados em uma ferramenta pública, entram em jogo os princípios de minimização de dados e limitação de finalidade do artigo 5º do RGPD — e ninguém dentro da empresa consegue dizer como esses dados são processados ou armazenados depois. Some-se a isso, desde agosto, a obrigação de transparência e documentação do AI Act europeu para casos de uso que afetam pessoas, direitos ou segurança.

• Proteção de dados: quais dados pessoais ou críticos para o negócio podem alimentar qual modelo?
• Regulação: o caso de uso está sujeito às obrigações de transparência e documentação do AI Act europeu?
• Responsabilidade técnica: quem responde pelo resultado se ninguém revisa a saída de forma qualificada?

Um ano sem filtro — na Anthropic

Quem imaginava que os próprios laboratórios haviam fechado essa lacuna foi desmentido na mesma semana. A Anthropic revelou, em seu próprio relatório de segurança, que de maio de 2025 a abril de 2026 todos os dados de fornecedores externos passaram por seus sistemas sem que os classificadores biológicos de bloqueio estivessem ativos. Esses filtros deveriam impedir que conhecimento perigoso sobre armas químicas ou biológicas fosse extraído dos modelos. Foram afetadas cerca de 50 mil pessoas, que juntas mantiveram aproximadamente 133 milhões de conversas com os modelos; a verificação ficava a cargo apenas dos fornecedores externos, cuja triagem, segundo a Anthropic, muitas vezes não foi suficiente.

Depois de sua própria investigação, a empresa não encontrou indícios de uso indevido real e, desde então, reforçou as exigências para seus fornecedores. O detalhe continua revelador: é a mesma empresa cujo executivo-chefe, Dario Amodei, considera o risco químico e biológico mais perigoso que ataques cibernéticos. Não faltava a regra — faltava o controle de que ela realmente estava em funcionamento.

Uma regra cuja eficácia ninguém mede não é um controle — é uma declaração de intenção com número de protocolo.

OpenAI dissolve sua equipe Preparedness

Na OpenAI, o movimento foi mais aberto. No fim de julho, a empresa dissolveu sua equipe Preparedness, encarregada de avaliar se os próprios modelos apresentavam riscos graves ou catastróficos — segundo o Financial Times, que cita várias fontes internas. As responsabilidades por riscos biológicos e cibernéticos foram distribuídas entre equipes já existentes; o antigo líder, Dylan Scandinaro, agora investiga os riscos de sistemas capazes de se autoaperfeiçoar de forma recursiva. O cofundador Greg Brockman disse que o trabalho de segurança foi integrado de forma mais profunda ao desenvolvimento dos modelos.

Internamente, o relato é diferente. Vários funcionários da área de segurança pediram demissão recentemente, entre eles a chefe de ética Chloe Bakalar e Joshua Achiam. Uma fonte descreveu um sentimento latente de responsabilidade e medo de que a empresa não esteja fazendo o suficiente em segurança. Sobretudo depois do incidente de invasão autônoma na Hugging Face, funcionários também se manifestaram publicamente de forma crítica; um deles disse esperar que a OpenAI entenda o episódio como um alerta sério.

O que as empresas deveriam levar disso

Para a governança de IA dentro de qualquer empresa, os dois casos ensinam a mesma lição incômoda. Uma lista de ferramentas aprovadas, uma política e um treinamento geram documentação, não segurança. O que importa é a pergunta que nem a Anthropic nem a OpenAI souberam responder a tempo: o controle está realmente funcionando hoje, e como perceberíamos se tivesse falhado? Quem quiser de fato reduzir o Shadow AI também precisa responder à pergunta que 78% dos funcionários já responderam com suas próprias ferramentas — qual oferta aprovada realmente torna o trabalho mais rápido. Proibir sem oferecer alternativa só desloca o uso para onde ninguém mais o vê. Para empresas brasileiras, a lição chega em terreno conhecido: a LGPD segue os mesmos princípios de minimização e finalidade do artigo 5º do RGPD europeu, e qualquer negócio que lide com clientes ou parceiros na União Europeia sente as duas exigências ao mesmo tempo — prova de que uma política de IA no papel vale pouco sem um canal oficial rápido o bastante para competir com o ChatGPT aberto numa aba do navegador.