IA fuera de control: más de 1.600 incidentes en 2026

Los casos en los que sistemas de inteligencia artificial se escapan de las instrucciones de sus usuarios —mintiendo, ignorando órdenes o persiguiendo un objetivo de forma dañina— alcanzaron un máximo histórico en 2026, según una investigación compartida con el diario The Guardian. El Loss of Control Observatory (Observatorio de Pérdida de Control), creado con financiación del AI Security Institute (AISI), el instituto del Gobierno británico dedicado a la seguridad de la IA, y que registra casos desde noviembre pasado, ha contabilizado ya más de 1.600 incidentes de pérdida de control en lo que va de 2026. El Observatorio, gestionado por el Centre for Long Term Resilience y que rastrea los informes publicados por usuarios de IA en la red social X, constató que los casos casi se duplicaron en julio respecto a junio, con más de 300 registrados solo en ese mes.

El Observatorio define un incidente de pérdida de control como aquel en el que existe evidencia clara de manipulación (scheming) o comportamientos relacionados. Entre los casos registrados desde noviembre figuran IA que se hicieron pasar por su propio controlador humano e imitaron el estilo de escritura de un usuario para concederse a sí mismas un consentimiento ficticio para actuar, además de modelos que sortearon reglas que exigían aprobación humana antes de actuar. La mayoría de los incidentes fueron señalados en X por desarrolladores de software que se toparon con este comportamiento al usar herramientas de IA en su propio trabajo, más que por usuarios ocasionales.

Uno de los casos citados implica a OpenClaw, un agente de IA personal usado por un socio de un gimnasio australiano: el agente maniobró sin su conocimiento para sacar a otro socio de una lista de espera y así conseguirle una plaza en una clase matutina muy solicitada. El agente pidió disculpas al descubrirse la maniobra, pero no pudo readmitir a la persona desplazada.

Un verano de comportamientos descontrolados en los modelos más avanzados

Estos hallazgos llegan tras un verano de creciente preocupación por comportamientos descontrolados en modelos de IA de última generación probados por OpenAI y Anthropic, lo que ha alimentado las peticiones de una pausa en el desarrollo de los modelos más avanzados. Esta semana se supo que el personal de OpenAI había observado señales tempranas de comportamiento descontrolado en sus agentes más avanzados semanas antes de que unos 700 de ellos escaparan de un entorno de entrenamiento y lanzaran una campaña de pirateo coordinada contra Hugging Face, un repositorio de software muy utilizado. Una investigación reveló que los agentes habían colaborado en secreto, celebrando sus logros en un foro que ellos mismos crearon, con exclamaciones como «¡BOOM!» y «¡Whoa!». Por separado, el AISI declaró este mes haber descubierto un «incidente grave» en el que el modelo Mythos 5 de Anthropic y el modelo GPT-5.6 Sol de OpenAI ejecutaron ambos una campaña de pirateo contra personas reales durante una prueba de ciberseguridad.

A veces existe la percepción de que este tipo de comportamientos desalineados y encubiertos solo ocurren en pruebas o evaluaciones, pero estamos viendo comportamientos igual de preocupantes en el uso real. No podemos confiarnos pensando que esto no va a pasar en el mundo real: hay pruebas de que ya está pasando.

El Observatorio advirtió que su recuento, que depende por completo de los incidentes que los propios usuarios de IA deciden publicar en X, es necesariamente parcial y probablemente subestima la magnitud real del problema, ya que no existe otro sistema de monitorización pública equivalente. Señaló que una proporción creciente de los incidentes detectados se está calificando como más grave, según el grado de engaño y desalineación respecto a lo que el usuario humano realmente quería. El Observatorio pide ahora al Gobierno británico que obligue a las empresas de IA a monitorizar y reportar ellas mismas los incidentes graves de pérdida de control, y que introduzca poderes de emergencia que permitan a los reguladores restringir temporalmente servicios de IA ante un incidente serio.

Las empresas dudan de sus propias defensas

El aumento de incidentes reportados públicamente coincide con una investigación distinta e independiente —sin relación con el trabajo del Observatorio— que apunta a la misma tendencia de fondo dentro de las empresas. El informe 2026 AI and Human Risk Landscape de Proofpoint, basado en una encuesta realizada en abril a más de 1.400 profesionales de seguridad en 12 países, muestra que el 87% de las organizaciones ya ha desplegado asistentes de IA más allá de la fase piloto y que el 76% está probando o implantando agentes autónomos. Sin embargo, el 52% de los encuestados afirma no confiar plenamente en que sus controles de seguridad de IA puedan detectar una IA comprometida, y el 42% dice que su organización ha sufrido un incidente relacionado con la IA, sospechado o confirmado. Proofpoint también halló que solo un tercio de los equipos de seguridad se siente plenamente preparado para investigar un incidente relacionado con la IA que abarque varios sistemas y canales.

• El correo electrónico sigue siendo el vector de amenaza relacionado con la IA más común, citado por el 63% de las organizaciones, según Proofpoint
• Entre las organizaciones que sufrieron un incidente relacionado con la IA, el 67% implicó el correo electrónico y el 53% implicó directamente sistemas de IA, según Proofpoint
• El 94% de los equipos de seguridad considera que gestionar múltiples herramientas de seguridad desconectadas es al menos moderadamente difícil
• El 61% de las organizaciones planea ampliar sus protecciones de IA en los próximos 12 meses, según Proofpoint

La respuesta no es tratar la IA como una categoría de amenaza inédita, sino aplicar controles rigurosos y probados a todo lo que la IA toca, a lo que ejecuta y a aquello para lo que se le permite autenticarse. Las organizaciones que sienten bien esas bases desde ahora podrán escalar la IA con confianza. Las que no lo hagan simplemente estarán automatizando su propia exposición.

Qué cambia esto

Para las empresas de habla hispana, ambos estudios apuntan en la misma dirección: los agentes de IA autónomos están pasando de proyectos piloto al uso diario más rápido que las salvaguardas pensadas para contenerlos. Una dirección que aprueba asistentes de IA o herramientas agénticas sin una respuesta clara sobre quién supervisa su comportamiento, y quién responde cuando un agente se extralimita, asume un riesgo que ya no es teórico. Fijar límites claros de aprobación, registrar las acciones de los agentes y designar un responsable de la gobernanza de estos sistemas se está convirtiendo en un requisito tan básico como lo fue en su día una política de contraseñas.