Anthropic dit avoir déjoué des tentatives de recherche sur des armes biologiques

Le 10 septembre 2026, Anthropic a publié son rapport de renseignement sur les menaces le plus détaillé à ce jour, révélant avoir détecté des utilisateurs ayant tenté d'employer ses modèles Claude dans des recherches susceptibles de déboucher sur des armes biologiques, aux côtés d'autres usages abusifs liés à des cyberattaques, des opérations d'influence, de la surveillance et le développement de systèmes d'armes. L'entreprise affirme avoir stoppé chacune des opérations décrites dans le rapport avant qu'elle ne cause un dommage réel.

Cinq cas documentés, de la grippe aviaire aux peptides de toxines

Le rapport documente cinq cas distincts dans lesquels des modèles Claude ont été utilisés pour des activités liées à une recherche biologique sensible. Dans l'un d'eux, un chercheur a passé des semaines à planifier avec l'aide de Claude des expériences de « gain de fonction » visant à adapter la grippe aviaire aux mammifères. Dans un autre, un utilisateur a constitué un atlas complet de peptides de venin, puis un système génératif destiné à optimiser plus précisément des molécules ciblant des toxines paralysantes et analgésiques.

Dans un troisième cas, le propre classificateur de sécurité biologique d'Anthropic a signalé une demande visant à utiliser Claude pour des recherches de gain de fonction sur le virus du chikungunya, incluant des modifications proposées destinées à accroître la capacité de transmission du virus et sa capacité à échapper à la réponse immunitaire. Selon le média arabophone aitnews, qui a révélé ce détail en premier, l'équipe de renseignement sur les menaces d'Anthropic a indiqué que la demande avait suscité une inquiétude supplémentaire car le projet proposé était lié à un institut de recherche militaire.

Les cas d'usage abusif documentés par Anthropic ne se limitent pas à la biologie : le rapport de l'entreprise recense aussi des tentatives de détourner ses modèles à d'autres fins, notamment la surveillance, la rédaction de code d'exploitation de failles de sécurité, la production de propagande et l'aide au développement de systèmes d'armes conventionnelles.

Jacob Klein, responsable du renseignement sur les menaces chez Anthropic, a déclaré, selon aitnews, que détecter ce type d'activité malveillante n'a rien d'évident : les cas réels sont souvent bien plus ambigus que celui d'une personne annonçant ouvertement son intention de fabriquer une arme biologique.

Pourquoi Anthropic refuse de nommer les chercheurs concernés

Anthropic reconnaît dans son rapport que détecter ce type d'usage abusif n'a rien d'évident : certaines demandes liées à des recherches dangereuses ressemblent, en apparence, à de la science parfaitement légitime, comme le développement de vaccins ou l'étude de maladies infectieuses. C'est pourquoi, selon le quotidien espagnol ABC, l'entreprise a choisi d'agir par prudence, intervenant chaque fois qu'elle ne parvenait pas à établir clairement l'intention derrière une requête, compte tenu de la gravité des conséquences potentielles. Le rapport lui-même précise : « Si les évaluations sont utiles car elles apportent une preuve de capacité, elles ne peuvent démontrer de façon définitive que cette capacité serait effectivement utilisée pour développer des armes biologiques dans le monde réel. »

L'entreprise a refusé d'identifier les chercheurs ou les institutions liés aux cinq cas, expliquant que les personnes concernées sont des scientifiques exerçant formellement une activité de recherche, qu'elle ne peut confirmer aucune intention de nuire, et que révéler leur identité pourrait les exposer sans preuve concluante de mauvaise foi. Anthropic a préféré suspendre les comptes concernés et intégrer les résultats de son enquête à ses systèmes de sécurité afin d'améliorer la détection et la prévention futures.

Le rapport d'Anthropic lui-même décrit l'usage biologique abusif comme l'un des risques les plus graves posés par les modèles d'IA de pointe, avertissant qu'ils pourraient atteindre un niveau de capacité leur permettant d'augmenter la dangerosité d'agents pathogènes existants, voire d'en créer de nouveaux, et que, sans garde-fous adéquats, de telles capacités pourraient avoir des conséquences catastrophiques, selon le quotidien espagnol ABC.

Nous publions notre rapport de renseignement sur les menaces le plus détaillé à ce jour. Il explique comment des personnes ont tenté de détourner Claude — pour des cyberattaques, des opérations d'influence, de la surveillance, de la biologie et la fabrication d'armes — et comment nous l'avons découvert et arrêté. Nous avons stoppé chacune des opérations recensées dans le rapport.

Ce que cela change pour la France et l'Union européenne

Ce rapport paraît alors que gouvernements et entreprises du monde entier accélèrent le déploiement d'agents d'IA toujours plus autonomes pour coder, chercher ou répondre aux clients. Les cas documentés par Anthropic montrent que les risques biologiques des modèles les plus avancés ne relèvent plus de l'hypothèse : ce sont des incidents réels, détectés et endigués par un laboratoire de premier plan, ce qui fait de la sécurité des modèles une préoccupation partagée par toute organisation qui déploie ou héberge de l'IA avancée, et non l'affaire d'une poignée de laboratoires américains.

En France, comme dans le reste de l'Union européenne, le règlement européen sur l'IA impose déjà des obligations d'évaluation des risques aux modèles les plus capables. Pour toute entreprise française qui donne à ses agents d'IA la capacité de naviguer sur le web, d'écrire du code ou d'interroger des bases scientifiques, ce rapport rappelle que les garde-fous qu'un laboratoire construit pour lui-même ne remplacent pas une vérification indépendante de la manière dont le modèle d'un fournisseur gère précisément ce type de scénario.