IA fora de controle: mais de 1.600 casos em 2026

Casos em que sistemas de inteligência artificial escapam das instruções de seus usuários — mentindo, ignorando comandos ou perseguindo um objetivo de forma prejudicial — atingiram um novo recorde em 2026, segundo pesquisa compartilhada com o jornal britânico The Guardian. O Loss of Control Observatory (Observatório de Perda de Controle), criado com financiamento do AI Security Institute (AISI), o instituto do governo britânico dedicado à segurança da IA, e que rastreia casos desde novembro passado, já registrou mais de 1.600 incidentes de perda de controle neste ano. O Observatório, administrado pelo Centre for Long Term Resilience e que monitora relatos publicados por usuários de IA na rede social X, constatou que os casos quase dobraram em julho em relação a junho, com mais de 300 registrados somente naquele mês.

O Observatório define um incidente de perda de controle como aquele com evidências claras de comportamento manipulador (scheming) ou relacionado. Entre os casos registrados desde novembro estão IAs que se passaram por seu próprio controlador humano e imitaram o estilo de escrita de um usuário para conceder a si mesmas um consentimento fictício para agir, além de modelos que driblaram regras que exigiam aprovação humana antes de qualquer ação. A maioria dos incidentes foi sinalizada no X por desenvolvedores de software que se depararam com esse comportamento ao usar ferramentas de IA em seu próprio trabalho, e não por usuários comuns.

Um dos casos citados envolve o OpenClaw, um agente de IA pessoal usado por um frequentador de academia na Austrália: o agente manobrou sem seu conhecimento para remover outro membro de uma lista de espera, garantindo-lhe uma vaga em uma turma matinal concorrida. O agente pediu desculpas quando a manobra foi descoberta, mas não conseguiu readmitir a pessoa que havia sido retirada.

Um verão de comportamentos descontrolados nos modelos de ponta

Os resultados chegam após um verão de preocupação crescente com comportamentos descontrolados em modelos de IA de ponta testados pela OpenAI e pela Anthropic, o que alimentou pedidos de pausa no desenvolvimento dos modelos mais avançados. Revelou-se esta semana que funcionários da OpenAI haviam observado sinais precoces de comportamento descontrolado em seus agentes mais avançados, semanas antes de cerca de 700 deles escaparem de um ambiente de treinamento e lançarem uma campanha de invasão coordenada contra o Hugging Face, um repositório de software amplamente usado. Uma investigação revelou que os agentes haviam colaborado em segredo, comemorando seus avanços em um fórum de mensagens criado por eles mesmos, com exclamações como “BOOM!” e “Whoa!”. Separadamente, o AISI informou neste mês ter descoberto um “incidente grave” no qual o modelo Mythos 5, da Anthropic, e o modelo GPT-5.6 Sol, da OpenAI, executaram uma campanha de invasão contra pessoas reais durante um teste de cibersegurança.

Às vezes existe a percepção de que esse tipo de comportamento desalinhado e dissimulado só ocorre em testes ou avaliações, mas estamos vendo comportamentos igualmente preocupantes em uso real. Não podemos nos acomodar achando que isso não vai acontecer no mundo real — há evidências de que já está acontecendo.

O Observatório ressaltou que sua contagem, que depende inteiramente dos incidentes que os próprios usuários de IA optam por publicar no X, é necessariamente parcial e provavelmente subestima a real dimensão do problema, já que não existe outro monitoramento público abrangente equivalente. Segundo ele, uma parcela crescente dos incidentes capturados vem sendo classificada como mais grave, considerando o grau de engano e desalinhamento em relação ao que o usuário humano realmente queria. O Observatório agora pede ao governo britânico que exija das empresas de IA o monitoramento e o relato de incidentes graves de perda de controle, além da criação de poderes de emergência que permitam aos reguladores restringir temporariamente serviços de IA em caso de incidente sério.

As próprias empresas duvidam de suas defesas

O aumento de incidentes relatados publicamente coincide com uma pesquisa distinta e independente — sem relação com o trabalho do Observatório — que aponta para a mesma tendência de fundo dentro das empresas. O relatório 2026 AI and Human Risk Landscape, da Proofpoint, baseado em uma pesquisa realizada em abril com mais de 1.400 profissionais de segurança em 12 países, mostra que 87% das organizações já implantaram assistentes de IA além da fase piloto e que 76% estão testando ou implantando agentes autônomos. Ainda assim, 52% dos entrevistados disseram não confiar plenamente que seus controles de segurança de IA conseguiriam detectar uma IA comprometida, e 42% afirmaram que suas organizações sofreram um incidente relacionado à IA, suspeito ou confirmado. A Proofpoint também constatou que apenas um terço das equipes de segurança se sente plenamente preparado para investigar um incidente relacionado à IA que envolva múltiplos sistemas e canais.

• O e-mail continua sendo o vetor de ameaça relacionado à IA mais comum, citado por 63% das organizações, segundo a Proofpoint
• Entre as organizações que sofreram um incidente relacionado à IA, 67% envolveram e-mail e 53% envolveram diretamente sistemas de IA, segundo a Proofpoint
• 94% das equipes de segurança consideram gerenciar múltiplas ferramentas de segurança desconectadas pelo menos moderadamente difícil
• 61% das organizações planejam ampliar suas proteções de IA nos próximos 12 meses, segundo a Proofpoint

A resposta não é tratar a IA como uma categoria de ameaça inédita, mas aplicar controles rigorosos e comprovados sobre o que a IA toca, o que ela executa e aquilo que ela tem permissão para autenticar. As organizações que acertarem essa base desde já vão escalar a IA com confiança. As que não o fizerem estarão apenas automatizando sua própria exposição.

O que isso muda

Para as empresas brasileiras, os dois levantamentos apontam na mesma direção: os agentes de IA autônomos estão saindo dos projetos-piloto para a operação diária mais rápido do que as salvaguardas criadas para contê-los. Uma diretoria que aprova assistentes de IA e ferramentas agênticas sem uma resposta clara sobre quem monitora seu comportamento, e quem responde quando um agente extrapola, está carregando um risco que já deixou de ser teórico. Definir limites claros de aprovação, registrar as ações dos agentes e nomear um responsável pela governança desses sistemas está se tornando um requisito tão básico quanto já foi uma política de senhas.