Google y DeepMind crean instituto para ampliar el debate sobre normas de AGI

Google y su filial DeepMind anunciaron el 16 de septiembre de 2026 la creación del DeepMind Institute, describiéndolo como un foro neutral destinado a albergar la conversación emergente sobre la inteligencia artificial general (AGI) y las normas que podrían regir su desarrollo futuro.

El instituto está bajo la supervisión de tres figuras senior del sector: Shane Legg, James Manyika y Demis Hassabis, quienes aportan una combinación de experiencia técnica y perspectiva estratégica para guiar la agenda del proyecto.

Legg, además, asume el cargo de editor‑en‑jefe, garantizando que la cadena editorial del instituto refleje una variedad de perspectivas y no se limite a una única doctrina corporativa, lo que refuerza la pretensión de neutralidad del espacio de debate.

Una colección inaugural curada

La primera publicación del DeepMind Institute consiste en una colección de cuatro ensayos que exploran distintas dimensiones de la gobernanza de la AGI, abordando temas como las implicaciones de política económica, la transparencia del razonamiento, la prosperidad humana y la evaluación de modelos de vanguardia, con una mezcla deliberada de autores internos y externos.

Rohin Shah y Anca Dragan, ambos afiliados al instituto, sostienen que la reducción de la transparencia en el razonamiento de los modelos no es un resultado inevitable de las arquitecturas avanzadas, y proponen un examen sistemático de los compromisos inherentes a los diseños más opacos.

Concretamente, Shah y Dragan sugieren dos posibles salvaguardas: limitar la profundidad de la opacidad en serie de las tuberías de los modelos y exigir a los desarrolladores que demuestren que incluso los sistemas menos legibles siguen siendo monitorizables mediante herramientas de auditoría externas, lo que permitiría una supervisión continua sin comprometer la innovación.

Propuestas para un organismo de normas estadounidense

Demis Hassabis plantea una propuesta independiente para la creación de una organización de normas en Estados Unidos, encargada de evaluar los modelos de frontera antes de su despliegue masivo, con el objetivo de establecer un marco de referencia sólido y fiable.

El marco sugerido comienza con una presentación voluntaria de los detalles del modelo hasta treinta días antes de su lanzamiento público, lo que daría tiempo a los revisores para realizar análisis exhaustivos y detectar posibles riesgos de forma anticipada.

Si un modelo supera las evaluaciones prescritas, esos resultados podrían convertirse en un requisito previo para su despliegue en los Estados Unidos, mientras que Hassabis también recomienda que pruebas independientes, no publicadas, se utilicen para frenar la optimización oportunista que de otro modo podría eludir el escrutinio regulatorio.

Conclusiones clave de los primeros ensayos del instituto

• La política económica debe adaptarse a la posible disrupción macro‑económica de la AGI.
• La transparencia puede preservarse mediante límites diseñados a la profundidad del razonamiento opaco.
• La prosperidad humana debe ser una métrica central en las evaluaciones de impacto de la AGI.
• La evaluación de modelos de frontera podría estandarizarse mediante un sistema voluntario de presentación previa al lanzamiento.

Es importante señalar que todas las ideas presentadas son propuestas redactadas por colaboradores del instituto, y que, hasta la fecha, no han sido adoptadas como política oficial por Google o DeepMind, ni constituyen medidas regulatorias vinculantes en ninguna jurisdicción.

Para organizaciones de habla hispana, el lanzamiento del DeepMind Institute indica un giro hacia un diálogo más abierto y multiactor sobre la gobernanza de la AGI, ofreciendo una plataforma donde se pueden compartir experiencias y aprendizajes entre distintos sectores.

Las empresas que desarrollen modelos avanzados podrían pronto necesitar preparar documentación detallada para presentaciones voluntarias previas al lanzamiento, diseñar mecanismos de monitoreo para componentes opacos y participar en los organismos de normas emergentes que podrían convertir el cumplimiento en una condición de acceso al mercado en Estados Unidos y en otras jurisdicciones.

En este contexto, la colaboración entre actores privados, académicos y reguladores será esencial para construir marcos de referencia que equilibren la innovación tecnológica con la protección de los intereses públicos y la seguridad global.

El DeepMind Institute, al posicionarse como un espacio de debate inclusivo, busca fomentar la creación de normas consensuadas que reflejen tanto la diversidad de perspectivas como la complejidad inherente a la evolución de la AGI, marcando un paso importante hacia una gobernanza más responsable.

En última instancia, la iniciativa subraya la necesidad de un enfoque proactivo y colaborativo para anticipar los desafíos que la AGI plantea, y para asegurar que su desarrollo contribuya al bienestar colectivo sin sacrificar la transparencia ni la rendición de cuentas.