Über 100 KI‑Experten fordern unabhängige Gutachter in KI‑Laboren

Une coalition historique d'experts en IA appelle à des évaluateurs indépendants

Le 18 septembre 2026, plus d'une centaine de spécialistes et d'évaluateurs ont signé une lettre collective coordonnée par le Forum des Évaluateurs d'IA. Les signataires représentent un échantillon transversal de la communauté IA, allant des chercheurs de premier plan aux responsables d'organisations d'évaluation. Leur action unifiée marque une demande publique sans précédent pour un changement structurel dans la manière dont les laboratoires d'IA sont audités.

Parmi les signataires figurent des personnalités éminentes telles que Geoffrey Hinton, Stuart Russell et Yejin Choi. Leur présence indique que les préoccupations soulevées ne sont pas limitées à un groupe de niche, mais partagées par des individus qui ont façonné le domaine de l'intelligence artificielle pendant des décennies. La présence à la fois de dirigeants académiques et de responsables de l'évaluation souligne l'étendue de l'expertise derrière la pétition.

Exigences principales : indépendance, transparence et accès

La lettre expose un ensemble clair de exigences. Premièrement, elle insiste pour que les évaluateurs intégrés aux laboratoires d'IA conservent une indépendance juridique et financière vis‑à‑vis des entités qu'ils évaluent. Cette indépendance vise à protéger la capacité des évaluateurs à rendre des jugements sans influence indue de l'organisation d'accueil.

Deuxièmement, les signataires demandent une transparence totale concernant les méthodologies employées, les résultats obtenus, les conditions d'accès accordées et tout conflit d'intérêts potentiel. En exigeant la divulgation de ces éléments, la coalition cherche à rendre le processus d'évaluation lui‑même susceptible de contrôle, réduisant ainsi le risque d'évaluations opaques ou biaisées.

Troisièmement, la lettre sollicite que les évaluateurs bénéficient d'un accès comparable à celui dont jouissent les employés internes hautement privilégiés. Cela comprend l'entrée sans restriction aux systèmes du laboratoire, aux dépôts de données, aux outils spécialisés, aux locaux physiques et aux entretiens directs avec les équipes responsables des projets d'IA examinés. La justification est que seuls un tel accès complet permet aux évaluateurs de vérifier les affirmations et de détecter les risques cachés.

Mécanismes de communication et de protection

Un autre volet de la proposition est l'établissement de canaux formels permettant aux évaluateurs de communiquer directement avec les conseils d'administration des laboratoires. Cela permettrait aux évaluateurs de présenter leurs conclusions au plus haut niveau de gouvernance, assurant que les décisions stratégiques soient éclairées par une analyse indépendante. De plus, la lettre autorise la publication des preuves recueillies par les évaluateurs, sous une masquage limité et temporaire destiné à protéger la sécurité, la vie privée et la propriété intellectuelle.

Essentiellement, les signataires exigent des garanties juridiques qui protègent les évaluateurs contre toute représaille judiciaire ou financière si leurs conclusions déplaisent au laboratoire examiné. Cette protection vise à éliminer un frein majeur qui décourage actuellement les rapports rigoureux et critiques.

La coalition positionne explicitement sa proposition comme complémentaire plutôt que substitutive. Elle indique que le cadre suggéré viendrait renforcer les contrôles internes existants et les mécanismes de transparence publique, sans remplacer les régimes réglementaires ni la responsabilité des fournisseurs d'IA. Cette mise en forme reconnaît le rôle du droit et des forces du marché tout en soulignant un vide que l'évaluation indépendante pourrait combler.

Implications et questions en suspens

Si elles étaient adoptées, les mesures décrites pourraient remodeler les dynamiques de pouvoir entre les développeurs d'IA et les veilleurs externes. Des évaluateurs indépendants, dotés d'autonomie juridique et financière, pourraient mettre en lumière des risques que les équipes d'audit interne négligent ou minimisent. L'exigence de communication au niveau du conseil d'administration pourrait également accroître la visibilité des préoccupations de sécurité au sein de la stratégie d'entreprise.

Néanmoins, la faisabilité d'accorder aux évaluateurs le niveau d'accès décrit demeure incertaine. Accorder une entrée sans restriction aux systèmes et données propriétaires soulève des questions quant à la protection des secrets commerciaux tout en respectant la clause de transparence. La disposition de masquage temporaire tente d'équilibrer ces intérêts, mais les critères définissant ce qui constitue un masquage nécessaire ne sont pas précisés dans la lettre.

Une autre question ouverte porte sur l'application de la garantie anti‑représailles. Bien que la lettre réclame une protection contre les représailles juridiques et financières, elle ne spécifie pas les mécanismes par lesquels cette protection serait surveillée ou appliquée. Il reste à examiner si les lois du travail existantes pourraient être étendues aux évaluateurs indépendants, ou si de nouveaux cadres contractuels seraient requis.

La proposition soulève également la question de la sélection et du financement des évaluateurs indépendants. Maintenir l'indépendance financière vis‑à‑vis des laboratoires implique que les évaluateurs doivent recevoir des ressources de sources n'ayant pas d'intérêts directs dans les résultats. La lettre n'élabore pas de modèles de financement potentiels, laissant un détail opérationnel crucial non résolu.

• Autonomie juridique et financière pour les évaluateurs
• Divulgation complète des méthodes, résultats et conflits d'intérêts
• Parité d'accès avec le personnel interne privilégié
• Canaux de signalement directs aux conseils d'administration

Dans une perspective plus large, les exigences de la coalition pourraient influencer les futurs débats politiques. Les régulateurs pourraient considérer le cadre volontaire comme une référence pour des normes obligatoires, surtout si l'industrie montre une volonté d'auto‑régulation. Inversement, l'absence de langage réglementaire explicite dans la lettre suggère que les signataires anticipent que les instances législatives continueront à jouer un rôle distinct.

L'accent mis sur une supervision complémentaire laisse entrevoir une approche à plusieurs niveaux de la gouvernance de l'IA. L'évaluation indépendante pourrait servir de niveau intermédiaire entre les programmes de conformité interne et les audits réglementaires externes, permettant de détecter les problèmes plus tôt dans le cycle de développement.

Enfin, le nombre même de signataires—plus d'une centaine—confère une légitimité qui pourrait pousser les laboratoires d'IA à prendre les propositions au sérieux. La participation de chercheurs de haut niveau renforce l'argument selon lequel les pratiques d'évaluation actuelles pourraient être insuffisantes face à l'ampleur et à l'impact des systèmes d'IA modernes.