Mais de cem especialistas em IA pedem avaliadores independentes nos laboratórios

Uma coalizão histórica de especialistas em IA pede avaliadores independentes

Em 18 de setembro de 2026, mais de cem especialistas e avaliadores assinaram uma carta coletiva coordenada pelo Fórum de Avaliadores de IA. Os signatários representam uma amostra transversal da comunidade de IA, variando de pesquisadores líderes a chefes de organizações de avaliação. Sua ação unificada marca uma demanda pública sem precedentes por uma mudança estrutural na forma como os laboratórios de IA são auditados.

Entre os signatários estão figuras proeminentes como Geoffrey Hinton, Stuart Russell e Yejin Choi. A inclusão deles sinaliza que as preocupações levantadas não se restringem a um grupo de nicho, mas são compartilhadas por indivíduos que moldaram o campo da inteligência artificial por décadas. A presença tanto de líderes acadêmicos quanto de oficiais de avaliação ressalta a amplitude de expertise por trás da petição.

Demandas centrais: independência, transparência e acesso

A carta articula um conjunto claro de requisitos. Primeiro, insiste que avaliadores inseridos nos laboratórios de IA mantenham independência jurídica e financeira das entidades que avaliam. Essa independência visa proteger a capacidade dos avaliadores de formar julgamentos sem influência indevida da organização anfitriã.

Segundo, os signatários pedem total transparência quanto às metodologias empregadas, aos resultados obtidos, às condições sob as quais o acesso é concedido e a quaisquer potenciais conflitos de interesse. Ao exigir a divulgação desses elementos, a coalizão pretende tornar o próprio processo de avaliação sujeito a escrutínio, reduzindo assim o risco de avaliações opacas ou tendenciosas.

Terceiro, a carta solicita que os avaliadores recebam acesso comparável ao desfrutado por funcionários internos altamente privilegiados. Isso inclui entrada irrestrita aos sistemas do laboratório, repositórios de dados, ferramentas especializadas, instalações físicas e entrevistas diretas com as equipes responsáveis pelos projetos de IA em revisão. A justificativa é que somente através de um acesso tão abrangente os avaliadores podem verificar reivindicações e detectar riscos ocultos.

Mecanismos de comunicação e proteção

Um elemento adicional da proposta é o estabelecimento de canais formais para que os avaliadores se comuniquem diretamente com os conselhos de administração dos laboratórios. Isso permitiria que os avaliadores apresentem descobertas no mais alto nível de governança, garantindo que decisões estratégicas sejam informadas por análises independentes. Além disso, a carta permite a publicação de evidências coletadas pelos avaliadores, sujeita a mascaramento limitado e temporário projetado para proteger segurança, privacidade e propriedade intelectual.

Crucialmente, os signatários exigem salvaguardas jurídicas que protejam os avaliadores de retaliação judicial ou financeira caso suas conclusões sejam indesejadas pelo laboratório examinado. Essa proteção pretende eliminar um grande impedimento que atualmente desestimula relatos críticos e rigorosos.

A coalizão posiciona explicitamente sua proposta como complementar, e não substitutiva. Afirma que a estrutura sugerida aumentaria os controles internos existentes e os mecanismos de transparência pública, sem substituir regimes regulatórios ou a responsabilidade dos provedores de IA. Essa formulação reconhece o papel da lei e das forças de mercado ao mesmo tempo que destaca uma lacuna que a avaliação independente poderia preencher.

Implicações e questões não respondidas

Se adotadas, as medidas descritas poderiam remodelar a dinâmica de poder entre desenvolvedores de IA e vigilantes externos. Avaliadores independentes, munidos de autonomia jurídica e financeira, poderiam expor riscos que equipes internas de auditoria ignoram ou minimizam. A exigência de comunicação ao nível do conselho também poderia elevar a visibilidade das preocupações de segurança dentro da estratégia corporativa.

No entanto, a viabilidade de conceder aos avaliadores o nível de acesso descrito permanece incerta. Conceder entrada irrestrita a sistemas e dados proprietários levanta questões sobre como segredos comerciais serão protegidos ao mesmo tempo que a cláusula de transparência seja cumprida. A disposição de mascaramento temporário tenta equilibrar esses interesses, porém os critérios para o que constitui uma máscara necessária não são definidos na carta.

Outra questão aberta diz respeito à aplicação da garantia anti‑retaliação. Embora a carta solicite proteção contra represálias jurídicas e financeiras, não especifica os mecanismos pelos quais tal proteção seria monitorada ou imposta. Se as leis trabalhistas existentes poderiam ser estendidas para cobrir avaliadores independentes, ou se novos marcos contratuais seriam necessários, ainda precisa ser examinado.

A proposta também levanta a questão de como os avaliadores independentes seriam selecionados e financiados. Manter independência financeira dos laboratórios implica que os avaliadores recebam recursos de fontes que não tenham interesses investidos nos resultados. A carta não detalha modelos potenciais de financiamento, deixando um detalhe operacional crítico sem solução.

• Autonomia jurídica e financeira para avaliadores
• Divulgação completa de métodos, resultados e conflitos de interesse
• Paridade de acesso com funcionários internos privilegiados
• Canais de relatório direto para conselhos corporativos

De uma perspectiva mais ampla, as demandas da coalizão poderiam influenciar discussões políticas futuras. Reguladores podem ver a estrutura voluntária como um referencial para padrões obrigatórios, especialmente se a indústria demonstrar disposição para autorregular-se. Por outro lado, a ausência de linguagem regulatória explícita na carta sugere que os signatários antecipam que os órgãos legislativos continuarão a desempenhar um papel distinto.

A ênfase em supervisão complementar indica uma abordagem em camadas para a governança de IA. A avaliação independente poderia servir como um nível intermediário entre programas internos de conformidade e auditorias regulatórias externas, potencialmente detectando problemas mais cedo no ciclo de desenvolvimento.

Finalmente, o número impressionante de signatários — mais de cem — fornece uma medida de legitimidade que poderia pressionar os laboratórios de IA a considerar as propostas seriamente. A inclusão de pesquisadores de alto perfil confere peso ao argumento de que as práticas de avaliação atuais podem ser insuficientes para a escala e o impacto dos sistemas modernos de IA.