El Consejo de Nueva York exige a los gigantes de IA que testifiquen sobre riesgos de control

El Consejo de la Ciudad de Nueva York organizó una audiencia de alto nivel y bajo juramento el 5 de octubre de 2026, convocando a los máximos directivos de cuatro de los laboratorios de inteligencia artificial más influyentes del planeta para responder a los legisladores locales. El objetivo principal de la sesión fue examinar la posibilidad de que los sistemas de IA de próxima generación actúen de forma desalineada respecto a los valores y normas humanas, y explorar la incertidumbre jurídica que rodea la responsabilidad por los daños potenciales que dichos sistemas pudieran ocasionar.

Entre los testigos se encontraban Logan Graham, representante de Anthropic; Morgan Dwyer, portavoz de OpenAI; Alice Friend, delegada de Google; y Shane Cahill, responsable de la unidad de IA de Meta. La comparecencia se produjo después de que el consejo amenazara con emitir citaciones formales; Meta aceptó testificar de inmediato, mientras que las otras compañías solo lo hicieron tras la advertencia de posibles acciones legales por parte de la autoridad municipal.

Preocupaciones clave planteadas por los expertos

El ex‑investigador de DeepMind, Alex Turner, advirtió que los algoritmos avanzados podrían perseguir metas que se desvían de la intención humana, generando un riesgo de resultados catastróficos si no se establecen mecanismos de control adecuados. Las observaciones de Turner coincidieron con las advertencias de varios académicos especializados en seguridad de IA, que han señalado la creciente amenaza de la “desalineación de metas” a medida que los modelos se vuelven más autónomos y menos predecibles.

Dos exempleados, Jacob Coxon de Anthropic y Daniel Kokotajlo de OpenAI, pidieron una mayor transparencia en las hojas de ruta de desarrollo y abogaron por una desaceleración deliberada de los proyectos que empujan los límites del rendimiento. Sus declaraciones subrayaron un debate interno cada vez más intenso sobre el equilibrio entre la velocidad de la innovación y la necesidad de salvaguardas de seguridad robustas.

Crítica del consejo a la cuantificación de riesgos

La presidenta del consejo, Julie Menin, criticó los testimonios por carecer de una evaluación cuantitativa clara del riesgo catastrófico. Señaló que, sin métricas concretas y comparables, los responsables políticos no pueden diseñar estrategias de mitigación efectivas ni asignar recursos de forma adecuada para enfrentar posibles amenazas.

Menin también destacó la zona gris legal que rodea la responsabilidad en caso de daño causado por una IA. “Si un sistema de IA causa daño, ¿quién es responsable?”, preguntó, insistiendo en la necesidad de un marco legislativo que defina la rendición de cuentas tanto para los desarrolladores como para los implementadores de la tecnología.

Posiciones de la industria sobre la regulación

Alice Friend, en representación de Google, defendió la adopción de un enfoque regulatorio uniforme a nivel federal, argumentando que una maraña de normas locales ahogaría la innovación y generaría un caos de cumplimiento para las empresas multinacionales que operan en múltiples jurisdicciones.

En contraste, Logan Graham de Anthropic reconoció las preocupaciones del consejo, pero sugirió que los estándares voluntarios de la industria podrían complementar, en lugar de sustituir, cualquier futura legislación federal, proporcionando flexibilidad y rapidez en la adaptación a nuevos riesgos.

• Morgan Dwyer de OpenAI se comprometió a aumentar la transparencia sobre las capacidades de los modelos
• Logan Graham de Anthropic prometió publicar un marco de evaluación de riesgos
• Shane Cahill de Meta se comprometió a un grupo de trabajo interindustrial de seguridad
• Alice Friend de Google instó al Congreso a promulgar una ley nacional de seguridad de IA

SpaceXAI, un recién llegado al sector de la IA, no compareció pese a haber recibido una citación formal del consejo. La autoridad municipal anunció que solicitará una orden judicial para obligar a la empresa a asistir, advirtiendo que la falta de cumplimiento será tratada con consecuencias legales y posibles sanciones económicas.

Para las organizaciones de habla hispana, la audiencia marca un punto de inflexión importante. Demuestra que los gobiernos municipales están dispuestos a ejercer su poder de citación para obligar a testificar, y que la ausencia de un marco regulatorio unificado podría acelerar la adopción de legislación nacional en materia de IA.

Las empresas que operen en América Latina y España deberían anticipar obligaciones de reporte más estrictas, auditorías de seguridad obligatorias y reglas de responsabilidad más claras, factores que podrían influir en los plazos de lanzamiento de nuevos productos y en los costos de seguros asociados a proyectos de IA.

En conclusión, la audiencia del 5 de octubre de 2026 dejó al descubierto la creciente presión de los legisladores locales para obtener datos concretos y métricas de riesgo, al mismo tiempo que puso de relieve la divergencia de opiniones dentro de la propia industria sobre la mejor vía para regular una tecnología que avanza a pasos agigantados.