Plus de cent experts en IA réclament des évaluateurs indépendants au sein des laboratoires

Une coalition historique d'experts en IA appelle à des évaluateurs indépendants

Le 18 septembre 2026, plus d’une centaine de spécialistes et d’évaluateurs ont signé une lettre collective qui a été coordonnée par le Forum des Évaluateurs d'IA. Les signataires représentent un échantillon transversal de la communauté IA, allant des chercheurs de premier plan aux chefs d'organisations d'évaluation. Leur action unifiée marque une demande publique sans précédent pour un changement structurel dans la manière dont les laboratoires d'IA sont audités.

Parmi les signataires figurent des personnalités éminentes telles que Geoffrey Hinton, Stuart Russell et Yejin Choi. Leur inclusion indique que les préoccupations soulevées ne sont pas confinées à un groupe de niche mais sont partagées par des individus qui ont façonné le domaine de l'intelligence artificielle pendant des décennies. La présence à la fois de dirigeants académiques et de responsables de l'évaluation souligne l'étendue de l'expertise derrière la pétition.

Exigences principales : indépendance, transparence et accès

La lettre formule un ensemble clair d’exigences. Premièrement, elle insiste pour que les évaluateurs intégrés aux laboratoires d'IA conservent une indépendance juridique et financière vis‑à‑vis des entités qu’ils évaluent. Cette indépendance vise à protéger la capacité des évaluateurs à rendre des jugements sans influence indue de l'organisation hôte.

Deuxièmement, les signataires demandent une pleine transparence concernant les méthodologies employées, les résultats obtenus, les conditions d’accès accordées et tout conflit d’intérêts potentiel. En exigeant la divulgation de ces éléments, la coalition cherche à rendre le processus d’évaluation lui‑même soumis à l’examen, réduisant ainsi le risque d’évaluations opaques ou biaisées.

Troisièmement, la lettre requiert que les évaluateurs bénéficient d’un accès comparable à celui dont jouissent les employés internes très privilégiés. Cela comprend l’accès sans restriction aux systèmes du laboratoire, aux dépôts de données, aux outils spécialisés, aux locaux physiques et aux entretiens directs avec les équipes responsables des projets d’IA examinés. Le raisonnement est que seul un accès aussi complet permet aux évaluateurs de vérifier les affirmations et de détecter les risques cachés.

Mécanismes de communication et de protection

Un autre élément de la proposition est la mise en place de canaux formels permettant aux évaluateurs de communiquer directement avec les conseils d’administration des laboratoires. Cela permettrait aux évaluateurs de présenter leurs conclusions au plus haut niveau de gouvernance, assurant que les décisions stratégiques soient éclairées par une analyse indépendante. En outre, la lettre autorise la publication des preuves recueillies par les évaluateurs, sous réserve d’un masquage limité et temporaire destiné à protéger la sécurité, la vie privée et la propriété intellectuelle.

Essentiellement, les signataires exigent des garanties juridiques qui protégeraient les évaluateurs contre toute représaille judiciaire ou financière si leurs conclusions déplaisent au laboratoire examiné. Cette protection vise à éliminer un frein majeur qui décourage aujourd’hui les rapports rigoureux et critiques.

La coalition précise explicitement que sa proposition est complémentaire et non substitutive. Elle indique que le cadre suggéré viendrait renforcer les contrôles internes existants et les mécanismes de transparence publique, sans remplacer les régimes réglementaires ni la responsabilité des fournisseurs d’IA. Cette mise en perspective reconnaît le rôle du droit et des forces du marché tout en mettant en évidence un vide que l’évaluation indépendante pourrait combler.

Implications et questions en suspens

Si elles étaient adoptées, les mesures décrites pourraient remodeler les dynamiques de pouvoir entre les développeurs d’IA et les vigies externes. Des évaluateurs indépendants, dotés d’une autonomie juridique et financière, pourraient mettre en lumière des risques que les équipes d’audit interne négligent ou minimisent. L’obligation de communication au niveau du conseil d’administration pourrait également accroître la visibilité des préoccupations de sécurité au sein de la stratégie d’entreprise.

Néanmoins, la faisabilité d’accorder aux évaluateurs le niveau d’accès décrit demeure incertaine. Accorder une entrée sans restriction aux systèmes et aux données propriétaires soulève des interrogations quant à la protection des secrets commerciaux tout en respectant la clause de transparence. La disposition de masquage temporaire tente d’équilibrer ces intérêts, mais les critères définissant ce qui constitue un masquage nécessaire ne sont pas précisés dans la lettre.

Un autre point ouvert concerne l’application de la garantie anti‑représailles. Bien que la lettre réclame une protection contre les représailles juridiques et financières, elle ne détaille pas les mécanismes par lesquels cette protection serait surveillée ou appliquée. La question de savoir si les lois du travail existantes pourraient être étendues aux évaluateurs indépendants, ou si de nouveaux cadres contractuels seraient requis, reste à examiner.

La proposition soulève également la question de la sélection et du financement des évaluateurs indépendants. Maintenir l’indépendance financière vis‑à‑vis des laboratoires implique que les évaluateurs doivent recevoir des ressources de sources qui n’ont pas d’intérêts détenus dans les résultats. La lettre n’élabore pas de modèles de financement potentiels, laissant ainsi un détail opérationnel critique non résolu.

• Autonomie juridique et financière pour les évaluateurs
• Divulgation complète des méthodes, résultats et conflits d’intérêts
• Parité d’accès avec le personnel interne privilégié
• Canaux de rapport directs aux conseils d’administration

Dans une perspective plus large, les exigences de la coalition pourraient influencer les futurs débats politiques. Les régulateurs pourraient voir le cadre volontaire comme une référence pour des normes obligatoires, surtout si l’industrie montre une volonté d’autorégulation. En revanche, l’absence de langage réglementaire explicite dans la lettre suggère que les signataires anticipent que les organes législatifs continueront à jouer un rôle distinct.

L’accent mis sur une surveillance complémentaire laisse entrevoir une approche à plusieurs niveaux de la gouvernance de l’IA. L’évaluation indépendante pourrait servir de niveau intermédiaire entre les programmes de conformité internes et les audits réglementaires externes, permettant de détecter les problèmes plus tôt dans le cycle de développement.

Enfin, le nombre même de signataires – plus d’une centaine – confère une légitimité qui pourrait pousser les laboratoires d’IA à considérer sérieusement les propositions. La participation de chercheurs de haut niveau renforce l’argument selon lequel les pratiques d’évaluation actuelles pourraient être insuffisantes face à l’ampleur et à l’impact des systèmes d’IA modernes.