Anthropic diz ter travado tentativas de investigação em armas biológicas

A 10 de setembro de 2026, a Anthropic publicou o seu relatório de inteligência de ameaças mais detalhado até à data, revelando ter detetado utilizadores que tentaram usar os modelos Claude em investigação que poderia conduzir a armas biológicas, a par de outros usos indevidos ligados a ciberataques, operações de influência, vigilância e desenvolvimento de sistemas de armas. A empresa afirma ter interrompido todas as operações descritas no relatório antes de causarem dano real.

Cinco casos documentados: da gripe aviária aos péptidos de toxinas

O relatório documenta cinco casos distintos em que modelos Claude foram usados em atividades ligadas a investigação biológica sensível. Num deles, um investigador passou semanas a planear experiências de "ganho de função" para adaptar a gripe aviária a mamíferos com a ajuda do Claude. Noutro, um utilizador construiu um atlas completo de péptidos de veneno e depois um sistema generativo para otimizar moléculas dirigidas a toxinas paralisantes e analgésicas com maior precisão.

Num terceiro caso, o próprio classificador de segurança biológica da Anthropic sinalizou um pedido para usar o Claude em investigação de ganho de função sobre o vírus chikungunya, incluindo modificações propostas para aumentar a capacidade de transmissão do vírus e a sua capacidade de escapar à resposta imunitária. A equipa de inteligência de ameaças da Anthropic afirmou que o pedido suscitou preocupação adicional por estar ligado a um instituto de investigação militar, segundo o meio árabe aitnews, que revelou primeiro este pormenor.

Os casos de uso indevido documentados pela Anthropic não se limitam à biologia: o relatório também registou tentativas de explorar os seus modelos para outros fins, incluindo vigilância, criação de código malicioso para explorar vulnerabilidades de segurança, produção de propaganda e apoio ao desenvolvimento de sistemas de armas convencionais, segundo o próprio relatório da Anthropic.

Jacob Klein, responsável pela inteligência de ameaças da Anthropic, afirmou que detetar este tipo de atividade maliciosa não é simples, notando que os casos reais costumam ser bem mais ambíguos do que o de alguém que declara abertamente a intenção de fabricar uma arma biológica, segundo a aitnews.

Porque é que a Anthropic não identifica os investigadores envolvidos

A Anthropic reconhece no relatório que detetar este tipo de uso indevido não é simples: algumas solicitações ligadas a investigação perigosa assemelham-se, à primeira vista, a ciência legítima, como o desenvolvimento de vacinas ou o estudo de doenças infecciosas. Por isso, segundo o diário espanhol ABC, a empresa optou por agir com cautela, intervindo sempre que não conseguia determinar claramente a intenção por trás de um pedido, dada a gravidade das potenciais consequências. Como refere o próprio relatório: «Embora as avaliações sejam úteis por fornecerem provas de capacidade, não conseguem demonstrar de forma conclusiva que essa capacidade viria a ser usada para desenvolver armas biológicas no mundo real».

A empresa recusou-se a identificar os investigadores ou instituições ligados aos cinco casos, alegando que as pessoas envolvidas são cientistas formalmente dedicados a trabalho de investigação, que não pode confirmar qualquer intenção de causar dano e que revelar as suas identidades poderia expô-las sem prova conclusiva de má-fé. Em vez disso, a Anthropic suspendeu as contas envolvidas e incorporou os resultados da investigação nos seus sistemas de segurança para melhorar a deteção e a prevenção futuras.

O próprio relatório da Anthropic descreve o uso biológico indevido como um dos riscos mais graves colocados pelos modelos de IA de fronteira, alertando que estes poderiam atingir um nível de capacidade que lhes permitisse aumentar a perigosidade de agentes patogénicos existentes ou até criar outros totalmente novos, e que, sem salvaguardas adequadas, tais capacidades poderiam ter consequências catastróficas, segundo o jornal ABC.

Estamos a publicar o nosso relatório de inteligência de ameaças mais detalhado até à data. Explica como algumas pessoas tentaram usar indevidamente o Claude — para ciberataques, operações de influência, vigilância, biologia e fabrico de armas — e como detetámos e interrompemos essas tentativas. Interrompemos todas as operações descritas no relatório.

O que isto muda para Portugal e a União Europeia

O relatório surge numa altura em que governos e empresas em todo o mundo aceleram a adoção de agentes de IA cada vez mais autónomos para programar, investigar e atender clientes. Os casos documentados pela Anthropic mostram que os riscos biológicos dos modelos mais avançados deixaram de ser hipotéticos: são incidentes reais, detetados e contidos por um laboratório de referência, o que torna a segurança dos modelos uma preocupação de qualquer entidade que implemente ou aloje IA avançada, e não apenas de um punhado de laboratórios norte-americanos.

Em Portugal, como no resto da UE, o Regulamento europeu de IA já impõe obrigações de avaliação de risco aos modelos mais capazes. Para qualquer empresa portuguesa que dê aos seus agentes de IA a capacidade de navegar na internet, escrever código ou consultar bases de dados científicas, este relatório recorda que as salvaguardas que um laboratório constrói para si próprio não substituem a verificação independente de como o modelo de um fornecedor lida exatamente com este tipo de cenários.