Anthropic diz ter barrado tentativas de pesquisa em armas biológicas

Em 10 de setembro de 2026, a Anthropic publicou seu relatório de inteligência de ameaças mais detalhado até hoje, revelando ter detectado usuários que tentaram empregar seus modelos Claude em pesquisas que poderiam levar a armas biológicas, além de outros usos indevidos ligados a ataques cibernéticos, operações de influência, vigilância e desenvolvimento de sistemas de armas. A empresa afirma ter interrompido todas as operações descritas no relatório antes que causassem dano real.

Cinco casos documentados: da gripe aviária aos peptídeos de toxinas

O relatório documenta cinco casos distintos em que modelos Claude foram usados em atividades ligadas a pesquisa biológica sensível. Em um deles, um pesquisador passou semanas planejando experimentos de "ganho de função" para adaptar a gripe aviária a mamíferos com a ajuda do Claude. Em outro, um usuário montou um atlas completo de peptídeos de veneno e depois um sistema generativo para otimizar moléculas voltadas a toxinas paralisantes e analgésicas com mais precisão.

Em um terceiro caso, o próprio classificador de segurança biológica da Anthropic sinalizou um pedido para usar o Claude em pesquisa de ganho de função sobre o vírus chikungunya, incluindo modificações propostas para aumentar a transmissibilidade do vírus e sua capacidade de escapar da resposta imunológica. A equipe de inteligência de ameaças da Anthropic disse que o pedido gerou preocupação adicional por estar ligado a um instituto de pesquisa militar, segundo o veículo árabe aitnews, que revelou o detalhe em primeira mão.

Os casos de uso indevido documentados pela Anthropic não se limitam à biologia: o relatório também registrou tentativas de explorar seus modelos para outros fins, incluindo vigilância, criação de código malicioso para explorar vulnerabilidades de segurança, produção de propaganda e apoio ao desenvolvimento de sistemas de armas convencionais, segundo o próprio relatório da Anthropic.

Jacob Klein, chefe de inteligência de ameaças da Anthropic, disse que detectar esse tipo de atividade maliciosa não é simples, observando que os casos reais costumam ser bem mais ambíguos do que o de alguém que declara abertamente a intenção de fabricar uma arma biológica, segundo a aitnews.

Por que a Anthropic não identifica os pesquisadores envolvidos

A Anthropic reconhece no relatório que detectar esse tipo de uso indevido não é simples: algumas solicitações ligadas a pesquisas perigosas se parecem, à primeira vista, com ciência legítima, como o desenvolvimento de vacinas ou o estudo de doenças infecciosas. Por isso, segundo o jornal espanhol ABC, a empresa optou por agir com cautela, intervindo sempre que não conseguia determinar com clareza a intenção por trás de um pedido, dada a gravidade das possíveis consequências. Como diz o próprio relatório: "Embora as avaliações sejam úteis por fornecerem evidências de capacidade, elas não conseguem demonstrar de forma conclusiva que essa capacidade seria de fato usada para desenvolver armas biológicas no mundo real".

A empresa se recusou a identificar os pesquisadores ou instituições ligados aos cinco casos, alegando que as pessoas envolvidas são cientistas formalmente dedicados a trabalho de pesquisa, que não pode confirmar nenhuma intenção de causar dano e que revelar suas identidades poderia expô-las sem prova conclusiva de má-fé. Em vez disso, a Anthropic suspendeu as contas envolvidas e incorporou os resultados da investigação aos seus sistemas de segurança para melhorar a detecção e a prevenção futuras.

O próprio relatório da Anthropic descreve o uso biológico indevido como um dos riscos mais graves dos modelos de IA de fronteira, alertando que eles poderiam atingir um nível de capacidade que lhes permitiria aumentar a periculosidade de patógenos existentes ou até criar outros totalmente novos, e que, sem salvaguardas adequadas, essas capacidades poderiam ter consequências catastróficas, segundo o jornal ABC.

Estamos publicando nosso relatório de inteligência de ameaças mais detalhado até hoje. Ele mostra como pessoas tentaram usar o Claude de forma indevida — para ataques cibernéticos, operações de influência, vigilância, biologia e fabricação de armas — e como detectamos e interrompemos isso. Interrompemos todas as operações descritas no relatório.

O que isso muda para o Brasil

O relatório chega em um momento em que governos e empresas em todo o mundo aceleram a adoção de agentes de IA cada vez mais autônomos para programar, pesquisar e atender clientes. Os casos documentados pela Anthropic mostram que os riscos biológicos dos modelos mais avançados deixaram de ser hipotéticos: são incidentes reais, detectados e contidos por um laboratório líder, o que torna a segurança dos modelos uma preocupação de qualquer empresa que implante ou hospede IA avançada, não apenas de um punhado de laboratórios americanos.

No Brasil, o Projeto de Lei 2338, que tramita no Congresso Nacional para estabelecer regras gerais para a inteligência artificial, ainda não define de forma específica como pedidos de pesquisa biológica ou química de duplo uso devem ser filtrados por modelos de fronteira. Para empresas brasileiras que já dão a agentes de IA a capacidade de navegar na web, escrever código ou consultar bases científicas, o relatório é um lembrete de que as salvaguardas construídas por um laboratório para si mesmo não substituem a verificação independente de como o modelo de um fornecedor lida exatamente com esses cenários.