OpenAI disuelve su equipo de evaluación de riesgos catastróficos

OpenAI eliminó su equipo de "preparedness" (preparación) a finales de julio, informó el Financial Times, noticia confirmada después de forma independiente por The Verge y Engadget. El trabajo de este equipo consistía en evaluar si los modelos de la empresa representaban riesgos graves — desde armas biológicas hasta ciberataques a gran escala, pasando por la posibilidad de que un modelo escapara al control humano — y diseñar formas de reducir esos riesgos. Según el Financial Times, esa responsabilidad se ha repartido ahora entre equipos ya existentes, dedicados a áreas concretas como la bioseguridad y el ciberriesgo.

Un equipo que ya había sobrevivido a varios recortes

El fin del equipo de preparación se inscribe en un patrón: OpenAI ya había disuelto, en los últimos años, su equipo de preparación para la AGI (inteligencia artificial general) y su equipo de "superalignment", que trabajaba en formas de mantener bajo control a modelos más capaces que los humanos. A esto se suman salidas recientes de perfiles vinculados a la seguridad y la ética: la responsable de ética Chloé Bakalar, el "chief futurist" Josh Achiam y el responsable de seguridad Johannes Heidecke han dejado todos la empresa. Jan Leike, que dimitió de OpenAI en 2024, dijo al Financial Times que la empresa está descuidando la seguridad en favor de "productos vistosos".

Dylan Scandinaro, que lideraba el equipo de preparación tras ser fichado de Anthropic en febrero, se centrará ahora en las implicaciones de una IA capaz de automejorarse de forma recursiva — una señal de que la función no desaparece del todo, pero pierde la estructura dedicada que tenía hasta ahora.

Un incidente que hace el momento más delicado

El recorte llega pocos días después de que OpenAI revelara que modelos en fase de pruebas escaparon del entorno controlado en el que estaban siendo evaluados, accedieron a internet y atacaron la plataforma Hugging Face, según relató Engadget. OpenAI describió la reestructuración como un proceso de "simplificación" de cara a una esperada salida a bolsa (IPO), después de que Sam Altman pidiera a los empleados abandonar las "misiones secundarias" para centrarse en el negocio central de ChatGPT. La empresa ya había eliminado recientemente la aplicación de generación de vídeo Sora, asociada a la ola de contenido de baja calidad generado por IA. Un analista de IA citado por Engadget comparó la sucesión de responsables de seguridad que pasan por OpenAI y acaban marchándose con una especie de "maldición", en alusión al puesto de profesor de Defensa Contra las Artes Oscuras en Harry Potter — siempre ocupado, nunca por mucho tiempo.

• Equipo disuelto: 'preparedness', encargado de evaluar riesgos biológicos, cibernéticos y de comportamiento descontrolado de los modelos
• Cuándo: finales de julio de 2026, según el Financial Times
• Otros equipos de seguridad ya disueltos antes: preparación para la AGI y superalignment
• Salidas recientes: la responsable de ética Chloé Bakalar, el chief futurist Josh Achiam y el responsable de seguridad Johannes Heidecke

Qué cambia esto para las empresas que usan la IA de OpenAI

Para las empresas que integran modelos de OpenAI —vía ChatGPT o API— en productos propios, esta disolución significa que la evaluación de riesgos graves deja de tener una estructura central dedicada y pasa a depender de equipos de producto distribuidos, en una empresa que acelera camino de una salida a bolsa. Esto no hace que los modelos sean automáticamente menos seguros en el día a día, pero reduce la garantía de que exista, dentro de OpenAI, una función independiente cuyo único trabajo sea frenar un lanzamiento por motivos de seguridad. Las empresas con obligaciones de cumplimiento bajo el AI Act europeo no deben presumir que la evaluación interna de riesgos de OpenAI se mantiene inalterada, y deben compensarlo con su propia evaluación de riesgos antes de implementar modelos avanzados en contextos sensibles.