Shadow AI: cuando las normas van por detrás del uso real — y hasta los laboratorios fallan

La IA generativa ya forma parte del día a día laboral en Alemania; la regulación interna, no. Cerca del 75 % de los trabajadores del conocimiento ya usa IA, casi siempre sin autorización oficial. Casi todas las empresas —el 98 %— cuentan con una estrategia de IA, pero solo en el 39 % de los casos la alta dirección dirige activamente su uso. El Work Trend Index recoge que el 60 % de los directivos admite no tener un plan claro de implementación. Entre el documento estratégico y el puesto de trabajo se abre así una brecha de cumplimiento que ya tiene nombre propio: Shadow AI.

Traer tu propia IA rara vez es mala fe

El 78 % de quienes usan IA llevan sus propias herramientas al trabajo. El motivo es sencillo: quieren trabajar más rápido y no encuentran ninguna opción autorizada dentro de la empresa. Según la asociación Bitkom, solo el 26 % de las empresas ofrece hoy servicios de IA oficiales a su plantilla. Dejar que tres cuartas partes de la plantilla trabaje con una tecnología que solo una cuarta parte de los empleadores facilita no crea una cultura de innovación, sino una TI en la sombra con modelo de lenguaje incluido.

El riesgo se vuelve crítico allí donde están los datos. RRHH, finanzas, fiscalidad y jurídico manejan de forma habitual contenidos personales y legalmente sensibles. En cuanto se copian expedientes de candidatos o datos de empleados en una herramienta pública, entran en juego los principios de minimización de datos y limitación de la finalidad del artículo 5 del RGPD —y nadie en la empresa puede decir cómo se procesan o almacenan después esos datos. A eso se suma, desde agosto, la obligación de transparencia y documentación de la Ley de IA de la UE para los casos de uso que afectan a personas, derechos o seguridad.

• Protección de datos: ¿qué datos personales o críticos para el negocio pueden entrar en qué modelo?
• Regulación: ¿el caso de uso está sujeto a las obligaciones de transparencia y documentación de la Ley de IA de la UE?
• Responsabilidad profesional: ¿quién responde por el resultado si nadie revisa la salida desde el punto de vista técnico?

Un año sin filtro — en Anthropic

Quien pensara que los propios laboratorios habían cerrado esa brecha fue desmentido la misma semana. Anthropic reveló en su propio informe de seguridad que, entre mayo de 2025 y abril de 2026, todos los datos de proveedores externos pasaron por sus sistemas sin que estuvieran activos los clasificadores biológicos de bloqueo. Estos filtros están pensados para impedir que se extraiga de los modelos conocimiento peligroso sobre armas químicas o biológicas. Se vieron afectadas unas 50.000 personas, que mantuvieron en conjunto cerca de 133 millones de conversaciones con los modelos; su control corría únicamente a cargo de los proveedores externos, cuyo filtrado, según Anthropic, resultó a menudo insuficiente.

Tras su propia investigación, la empresa no halló indicios de un uso indebido real y desde entonces ha endurecido los requisitos exigidos a sus proveedores. El detalle sigue siendo revelador: es la misma empresa cuyo consejero delegado, Dario Amodei, considera el riesgo químico y biológico más peligroso que los ciberataques. No faltaba la norma, sino el control de que realmente funcionaba.

Una norma cuya eficacia nadie mide no es un control: es una declaración de intenciones con número de expediente.

OpenAI disuelve su equipo Preparedness

En OpenAI el movimiento fue más abierto. A finales de julio, la empresa disolvió su equipo Preparedness, encargado de evaluar si sus propios modelos entrañaban riesgos graves o catastróficos, según Financial Times, que cita a varias fuentes internas. Las responsabilidades sobre riesgos biológicos y cibernéticos se repartieron entre equipos ya existentes; el anterior responsable, Dylan Scandinaro, investiga ahora los riesgos de los sistemas capaces de mejorarse a sí mismos de forma recursiva. El cofundador Greg Brockman explicó que el trabajo de seguridad se ha integrado de forma más profunda en el desarrollo de los modelos.

Puertas adentro, el relato es distinto. Varios empleados del área de seguridad han dimitido recientemente, entre ellos la responsable de ética Chloe Bakalar y Joshua Achiam. Una fuente describió una sensación latente de responsabilidad y temor a que la empresa no esté haciendo lo suficiente en materia de seguridad. Sobre todo tras el incidente de pirateo autónomo en Hugging Face, varios empleados se manifestaron también públicamente de forma crítica; uno de ellos dijo esperar que OpenAI entienda el incidente como un aviso serio.

Qué deberían aprender las empresas

Para la gobernanza de la IA dentro de cualquier empresa, ambos casos dejan la misma lección incómoda. Una lista de herramientas aprobadas, una política y una sesión de formación generan documentación, no seguridad. Lo que importa es la pregunta que ni Anthropic ni OpenAI supieron responder a tiempo: ¿el control funciona realmente hoy, y cómo notaríamos que ha fallado? Quien quiera frenar de verdad el Shadow AI también debe responder a la pregunta que el 78 % de los empleados ya ha respondido con sus propias herramientas: qué oferta autorizada hace su trabajo realmente más rápido. Prohibir sin ofrecer alternativa solo desplaza el uso a donde ya nadie lo ve. Para las empresas de habla hispana, la lección es igual de directa: si manejan datos de clientes o empleados de la UE, o si aspiran a operar allí, los mismos principios del RGPD y las mismas obligaciones de la Ley de IA europea les alcanzan, y la brecha entre la política escrita y la herramienta que su plantilla usa en la práctica es exactamente la misma que revela este caso alemán.