Anthropic dice haber frenado intentos de investigación en armas biológicas

El 10 de septiembre de 2026, Anthropic publicó su informe de inteligencia de amenazas más detallado hasta la fecha, en el que reveló haber detectado a usuarios que intentaron emplear sus modelos Claude en investigaciones que podrían derivar en armas biológicas, junto a otros usos indebidos relacionados con ciberataques, operaciones de influencia, vigilancia y desarrollo de sistemas de armas. La empresa asegura haber frenado todas las operaciones descritas en el informe antes de que causaran un daño real.

Cinco casos documentados: de la gripe aviar a los péptidos de toxinas

El informe documenta cinco casos distintos en los que modelos Claude se usaron en actividades ligadas a investigación biológica sensible. En uno, un investigador pasó semanas planificando experimentos de "ganancia de función" para adaptar la gripe aviar a mamíferos con ayuda de Claude. En otro, un usuario elaboró un atlas completo de péptidos de veneno y después un sistema generativo para optimizar moléculas dirigidas a toxinas paralizantes y analgésicas con mayor precisión.

En un tercer caso, el propio clasificador de seguridad biológica de Anthropic detectó una solicitud para usar Claude en investigación de ganancia de función sobre el virus chikungunya, que incluía modificaciones propuestas para aumentar la capacidad de transmisión del virus y su capacidad de evadir la respuesta inmunitaria. El equipo de inteligencia de amenazas de Anthropic señaló que la solicitud generó preocupación adicional porque el proyecto propuesto estaba vinculado a un instituto de investigación militar, según recogió el medio árabe aitnews, que reveló primero este detalle.

Los casos de uso indebido documentados por Anthropic no se limitan a la biología: el informe también registró intentos de explotar sus modelos con otros fines, entre ellos la vigilancia, la creación de código malicioso para explotar vulnerabilidades de seguridad, la producción de propaganda y la asistencia en el desarrollo de sistemas de armas convencionales, según el propio informe de Anthropic.

Jacob Klein, responsable de inteligencia de amenazas de Anthropic, señaló que detectar este tipo de actividad maliciosa no es sencillo, y que los casos reales suelen ser mucho más ambiguos que el de alguien que declara abiertamente su intención de fabricar un arma biológica, según recogió aitnews.

Por qué Anthropic no identifica a los investigadores implicados

Anthropic reconoce en su informe que detectar este tipo de uso indebido no es sencillo: algunas solicitudes ligadas a investigación peligrosa se parecen, en apariencia, a ciencia legítima, como el desarrollo de vacunas o el estudio de enfermedades infecciosas. Por ello, según recoge el diario ABC, la empresa optó por actuar con cautela, interviniendo siempre que no lograba determinar con claridad la intención tras una consulta, dada la gravedad de las posibles consecuencias. Como señala el propio informe: «Si bien las evaluaciones son útiles porque aportan pruebas de capacidad, no pueden demostrar de manera concreta que dicha capacidad llegaría a utilizarse para desarrollar armas biológicas en el mundo real».

La empresa se negó a identificar a los investigadores o instituciones ligados a los cinco casos, alegando que las personas implicadas son científicos que ejercen formalmente labores de investigación, que no puede confirmar ninguna intención de causar daño y que revelar su identidad podría exponerlos sin pruebas concluyentes de mala fe. En su lugar, Anthropic suspendió las cuentas implicadas e incorporó los resultados de la investigación a sus sistemas de seguridad para mejorar la detección y prevención futuras.

El propio informe de Anthropic describe el mal uso biológico como uno de los riesgos más graves de los modelos de IA de vanguardia, advirtiendo de que estos podrían alcanzar un nivel de capacidad que les permita aumentar la peligrosidad de patógenos existentes o incluso crear otros completamente nuevos, y que sin las medidas de seguridad adecuadas, tales capacidades podrían tener consecuencias catastróficas, según recoge ABC.

Publicamos nuestro informe de inteligencia de amenazas más detallado hasta la fecha. Explica cómo algunas personas intentaron usar mal Claude —para ciberataques, operaciones de influencia, vigilancia, biología y fabricación de armas— y cómo lo detectamos y detuvimos. Interrumpimos cada operación recogida en el informe.

Qué cambia esto para España y la Unión Europea

El informe llega mientras gobiernos y empresas de todo el mundo aceleran el despliegue de agentes de IA cada vez más autónomos para programar, investigar y atender a clientes. Los casos documentados por Anthropic muestran que los riesgos biológicos de los modelos más avanzados ya no son hipotéticos: son incidentes reales, detectados y contenidos por un laboratorio líder, lo que convierte la seguridad de los modelos en un asunto que afecta a cualquiera que despliegue o aloje IA avanzada, no solo a un puñado de laboratorios estadounidenses.

En España, como en el resto de la UE, el Reglamento europeo de IA ya impone obligaciones de evaluación de riesgos a los modelos de mayor capacidad, con la Agencia Española de Supervisión de la Inteligencia Artificial encargada de vigilar su cumplimiento. Para cualquier empresa española que dé a sus agentes de IA la capacidad de navegar por internet, escribir código o consultar bases de datos científicas, este informe recuerda que las salvaguardas que un laboratorio construye para sí mismo no sustituyen la verificación independiente de cómo el modelo de un proveedor gestiona exactamente este tipo de escenarios.