California acelera la supervisión de IA y estudia un mecanismo de apagado de emergencia

El 18 de septiembre de 2026, el gobernador Gavin Newsom firmó un decreto que sitúa a California a la vanguardia de Estados Unidos en la regulación de la inteligencia artificial avanzada. La orden exige un marco de supervisión acelerado y encarga a un panel de expertos que entregue recomendaciones concretas en sesenta días.

Al grupo de expertos se le asigna la tarea de proponer cómo el estado puede reforzar sus estatutos existentes de seguridad y protección. Las recomendaciones deben abordar la integración de evaluadores independientes dentro de los laboratorios de IA y describir el diseño, pruebas y verificación de un interruptor de emergencia para los modelos de frontera.

Alcance de la nueva iniciativa

California ya aplica normas sobre auditorías de terceros, protección infantil, detección de deep‑fakes, privacidad y ciberseguridad. El decreto de Newsom busca ampliar esa base, posicionando el régimen estatal como un posible modelo nacional.

La orden no impone de inmediato un botón de apagado obligatorio. En su lugar, inicia un esfuerzo regulatorio y técnico cuyo mecanismo concreto será definido por el próximo informe de los expertos.

Elementos clave bajo revisión

• Auditores independientes integrados en laboratorios de investigación de IA
• Criterios para determinar cuándo se puede activar una parada de emergencia
• Procedimientos para prevenir el abuso de la autoridad de parada
• Métodos para verificar que un modelo distribuido realmente se detenga
• Requisitos de documentación para inventarios de modelos y pruebas de seguridad

Newsom citó incidentes recientes de seguridad con agentes de IA como catalizador de la orden. También subrayó la ausencia de un mandato federal que obligue a las empresas a reportar incidentes peligrosos, argumentando que la acción estatal es ahora necesaria.

El contexto político muestra una administración federal que ha resistido imposiciones adicionales a la IA, mientras que un número creciente de legisladores demócratas pide controles más estrictos a nivel estatal y nacional.

Impacto inmediato en las empresas

Para las firmas de IA que operan en California, el decreto genera una carga inmediata de documentación. Las empresas deben compilar inventarios de modelos críticos, desarrollar planes de seguridad verificables, conservar evidencia de pruebas de seguridad y establecer procedimientos de escalamiento auditables.

Aunque la orden se queda corta en imponer un interruptor de apagado universal, la exigencia de prepararse para tal mecanismo obliga a las organizaciones a considerar disparadores de cierre, arquitecturas a prueba de fallos y salvaguardas de rendición de cuentas.

Los hallazgos del panel de expertos, que se presentarán en dos meses, moldearán la siguiente ronda de regulaciones. Si se adoptan sus recomendaciones, California podría exigir auditorías independientes periódicas, criterios claros para paradas de emergencia y la publicación de informes de cumplimiento.

Para una organización que opera en español, el mensaje es claro: prepárese ahora para un régimen de supervisión más riguroso. Realice una auditoría exhaustiva de todos los modelos de IA de alto riesgo, documente los controles de seguridad y diseñe un proceso de apagado de emergencia demostrable. Cumplir anticipadamente reducirá el riesgo de sanciones futuras y posicionará a la empresa como un actor responsable en un estado que aspira a establecer el estándar nacional.

Próximos pasos legislativos

El proyecto de ley estatal que acompañará la orden ejecutiva ya está en discusión en la Asamblea de California. Los legisladores proponen establecer un registro público de los modelos de IA de alto riesgo y otorgar al gobernador la facultad de activar el mecanismo de parada en caso de amenaza inminente, siempre bajo supervisión judicial.

Reacciones de la industria

Las principales empresas de tecnología con presencia en el estado han expresado tanto preocupación como disposición a colaborar. Algunas han anunciado la creación de equipos internos de cumplimiento que trabajarán directamente con los auditores independientes, mientras que otras solicitan claridad sobre los criterios técnicos que definirán una parada de emergencia.