Anthropic nomeia a Accenture como primeiro avaliador de segurança IA embutido

A 18 de setembro de 2026, a Anthropic anunciou publicamente que a equipa Faculty, a unidade especializada em inteligência artificial recentemente adquirida pela Accenture, passará a integrar o laboratório interno de segurança da empresa como avaliadores embutidos. Esta iniciativa marca a primeira vez que um grande laboratório de IA incorpora uma consultoria externa directamente no seu fluxo de desenvolvimento, permitindo que especialistas externos trabalhem lado a lado com os engenheiros de modelo desde a fase de conceção até à fase de lançamento.

O mandato atribuído aos avaliadores da Faculty está dividido em três áreas de atuação principais. Primeiro, executar exercícios de red‑team que simulam ataques adversários avançados, com o objetivo de identificar vulnerabilidades que poderiam ser exploradas por agentes maliciosos. Segundo, conduzir uma avaliação sistemática do alinhamento dos modelos com a intenção humana, verificando se as respostas geradas respeitam valores e normas sociais amplamente reconhecidos. Por fim, testar as guard‑rails de segurança incorporadas nas versões mais avançadas da série Claude, garantindo que os mecanismos de contenção funcionem de forma robusta em situações de uso inesperado.

Compromissos financeiros e modelo de financiamento a longo prazo

Anthropic e Accenture anunciaram um plano de investimento conjunto que deverá ultrapassar a marca de mil milhões de dólares ao longo dos próximos cinco anos. A primeira fase do financiamento será suportada directamente pela Anthropic, permitindo o arranque imediato das atividades de avaliação. No entanto, a empresa sublinhou que, à medida que o programa evolua, os recursos adicionais deverão ser provenientes de fundos industriais agregados ou de fontes públicas, como programas de inovação tecnológica ou subsídios governamentais dedicados à segurança da IA.

A parceria foi concebida como não exclusiva. A Anthropic informou que continua a manter conversações avançadas com a METR e outras organizações relevantes no domínio da segurança de IA, e pretende anunciar a inclusão de avaliadores embutidos adicionais antes do final do ano corrente, reforçando assim a sua estratégia de criar um ecossistema diversificado de supervisão independente.

Razões para a escolha da Accenture

A decisão de selecionar a Accenture baseou‑se sobretudo na vasta experiência da empresa na implementação de soluções de IA a escala global, tanto em grandes corporações privadas como em entidades governamentais. A Anthropic destacou ainda a relativa independência funcional da Accenture, argumentando que esta característica pode ajudar a mitigar potenciais conflitos de interesse que surgiriam se a avaliação fosse feita por consultorias cujo principal foco fosse exclusivamente a comercialização de produtos de IA.

Até ao momento não existe um padrão universal que defina claramente o âmbito, os protocolos de comunicação ou as responsabilidades específicas de um avaliador embutido. A Anthropic afirmou que pretende co‑desenvolver, em colaboração com a Faculty, uma metodologia própria que evolua à medida que a parceria avance, preenchendo uma lacuna regulatória que atualmente deixa muitas questões sem resposta concreta.

Críticas e resposta da Anthropic

Alguns observadores e analistas do sector levantaram preocupações sobre a possibilidade de que a presença de um avaliador proveniente do mesmo laboratório possa comprometer a independência da avaliação, resultando em relatórios tendenciosos ou menos críticos. Em resposta, a Anthropic insistiu que o arranjo financeiro não diminui a sua própria responsabilidade final pela segurança dos modelos, nem altera os requisitos de transparência que a empresa se compromete a cumprir.

A empresa sublinhou que a credibilidade da avaliação dependerá de três pilares fundamentais: acesso genuíno e irrestrito aos detalhes internos do modelo, direito inalienável de publicar constatações desfavoráveis quando necessário, e a existência de uma barreira clara que separe a função de avaliação de segurança das atividades comerciais de consultoria da Accenture.

• Teste adversarial de red‑team
• Pontuação de alinhamento com valores humanos
• Teste de stress das guard‑rails
• Relato de constatações adversas a registos públicos

A lista acima descreve as principais entregas esperadas da equipa Faculty ao longo do contrato. Cada entrega será formalizada num relatório estruturado, contendo descrições detalhadas dos métodos utilizados, resultados obtidos e recomendações de mitigação. A Anthropic planeia partilhar esses relatórios com auditores externos independentes e, quando apropriado, submetê‑los a revisões por parte de reguladores nacionais e internacionais.

Para as organizações portuguesas, a implementação desta parceria traduz‑se numa oportunidade única de aceder a um processo de supervisão de segurança mais transparente e rigoroso. Empresas que utilizem os modelos da série Claude poderão solicitar auditorias de segurança independentes realizadas por uma terceira parte com experiência comprovada em implementação de IA a nível empresarial, beneficiando simultaneamente de ciclos de feedback mais curtos proporcionados por um avaliador embutido.

Na prática, esta abordagem deverá reduzir significativamente o tempo necessário para certificar a conformidade dos modelos com as normas éticas e regulatórias, diminuir o risco de lacunas de segurança ocultas e proporcionar às empresas provas mais claras de que os sistemas que integram cumprem padrões exigentes de responsabilidade e governança.

Perspetivas futuras e implicações setoriais

A longo prazo, a Anthropic espera que este modelo de avaliação embutida sirva de referência para outros laboratórios de IA que pretendam reforçar a sua postura de segurança. Ao demonstrar que é possível integrar consultores externos de forma profunda e simultaneamente manter a independência necessária, a empresa pretende influenciar a criação de normas internacionais que regulem a prática de avaliações internas e externas em simultâneo.

Em termos de impacto no mercado europeu, a iniciativa poderá acelerar a adoção de IA confiável, sobretudo em sectores críticos como a saúde, finanças e energia, onde a confiança nas decisões algorítmicas é essencial. Reguladores nacionais poderão usar este caso como base para desenvolver requisitos de auditoria obrigatória, enquanto as próprias empresas de IA poderão competir diferenciando‑se pela transparência e robustez dos seus processos de avaliação.