Anthropic nombra a Accenture como su primer evaluador de seguridad de IA integrado

El 18 de septiembre de 2026 Anthropic anunció oficialmente que integrantes de Faculty, la unidad de inteligencia artificial que Accenture adquirió hace unos años, se incorporarán al laboratorio interno de seguridad de la compañía como evaluadores integrados, lo que representa la primera vez que un laboratorio de IA de gran envergadura sitúa a una consultora externa directamente dentro de su cadena de desarrollo y pruebas.

Esta incorporación tiene como objetivo reforzar la robustez de los modelos avanzados de la serie Claude mediante la realización de tres actividades esenciales: la ejecución de ejercicios de red‑team que imitan ataques adversarios sofisticados, la evaluación sistemática de la alineación del modelo con la intención y los valores humanos, y la verificación de las barreras de seguridad incorporadas en las versiones más recientes del modelo.

Compromisos financieros y modelo de financiación a largo plazo

Anthropic y Accenture han acordado destinar al menos mil millones de dólares durante los próximos cinco años para crear, ampliar y mantener la capacidad de evaluación integrada, una cifra que se dividirá en fases: la financiación inicial será cubierta directamente por Anthropic, mientras que las rondas posteriores podrán provenir de fondos industriales agrupados o de fuentes públicas, según lo que resulte más adecuado para cada etapa del proyecto.

El acuerdo se ha diseñado como una colaboración no exclusiva. Anthropic ha dejado claro que mantiene conversaciones en curso con METR y otras organizaciones del ecosistema de IA, y que tiene la intención de anunciar la incorporación de evaluadores integrados adicionales antes de que finalice el año, ampliando así la red de supervisión de seguridad.

Por qué se eligió a Accenture

Anthropic señaló que la amplia experiencia de Accenture en la implementación de soluciones de IA a gran escala en corporaciones multinacionales y agencias gubernamentales fue un factor determinante para la elección, ya que la firma cuenta con un historial probado de despliegues seguros y escalables.

Además, la compañía destacó la relativa independencia funcional de Accenture dentro del mercado de consultoría, argumentando que esta característica puede ayudar a mitigar posibles conflictos de interés que podrían surgir si la evaluación fuera realizada por consultoras puramente especializadas en IA, cuya relación financiera con los laboratorios a evaluar podría ser más directa.

En la actualidad no existe un estándar universal que delimite de forma clara el alcance, los protocolos de comunicación ni la responsabilidad legal de un evaluador integrado, por lo que Anthropic afirmó que trabajará conjuntamente con Accenture para co‑desarrollar una metodología propia que cubra esas lagunas regulatorias y responda a las preguntas que aún quedan sin respuesta en el sector.

Críticas y respuesta de Anthropic

Algunos analistas y comentaristas externos han expresado su preocupación de que la contratación de un evaluador proveniente del mismo laboratorio de desarrollo pueda comprometer la independencia de la evaluación, creando un riesgo de sesgo en los resultados y en la percepción de la comunidad.

Ante esas críticas, Anthropic respondió que el acuerdo financiero no disminuye en modo alguno su propia responsabilidad ni su compromiso con la seguridad del modelo, y que la estructura del contrato incluye salvaguardas específicas para garantizar la objetividad del proceso de evaluación.

La compañía subrayó que la credibilidad del programa dependerá de tres pilares prácticos: el acceso genuino y sin filtros a los componentes internos del modelo, el derecho irrevocable a publicar hallazgos desfavorables y la existencia de un cortafuegos claro que separe la actividad de evaluación de seguridad de cualquier asesoramiento comercial o de implementación que Accenture pueda ofrecer a clientes externos.

• Pruebas adversarias de red‑team
• Puntuación de alineación con valores humanos
• Pruebas de estrés de barreras de seguridad
• Informe de hallazgos adversos a registros públicos

Los cuatro elementos enumerados describen los entregables principales que se esperan del equipo Faculty, cada uno de los cuales será documentado en un informe estructurado que Anthropic tiene previsto compartir con auditores externos y, cuando corresponda, con los reguladores de distintas jurisdicciones.

En la práctica, la documentación incluirá metodologías detalladas, métricas cuantitativas, análisis de vulnerabilidades detectadas y recomendaciones de mitigación, todo ello con el objetivo de crear un registro transparente y verificable que permita a terceros validar la integridad de los procesos de seguridad implementados.

Para las organizaciones de habla hispana, la asociación se traduce en una oportunidad de contar con un proceso de supervisión de seguridad más abierto y estructurado, dado que podrán solicitar auditorías independientes realizadas por un equipo con profunda experiencia en despliegues a gran escala, mientras se benefician del ciclo de retroalimentación rápido que brinda la presencia de un evaluador integrado.

Este modelo debería reducir considerablemente el tiempo necesario para certificar el cumplimiento de los modelos de Anthropic con normativas locales e internacionales, disminuir el riesgo de brechas de seguridad ocultas y proporcionar a las empresas pruebas más claras de que los sistemas que integran cumplen con estándares éticos y regulatorios rigurosos.

En última instancia, la iniciativa busca crear un precedente para toda la industria de IA, demostrando que la colaboración estrecha entre laboratorios de desarrollo y consultoras externas puede fortalecer la confianza del público y de los reguladores en la seguridad de los modelos generativos avanzados.

Este anuncio se realizó en la sede central de Anthropic en San Francisco, y la primera fase del proyecto comenzará en los próximos meses, con un calendario preliminar que incluye pruebas piloto, revisión de resultados y ajustes metodológicos antes de la expansión completa prevista para el segundo año del acuerdo.