Le Conseil de NYC convoque les géants de l'IA à témoigner sur les risques de contrôle

Le Conseil municipal de New York a tenu une audition de haut niveau, sous serment, le 5 octobre 2026, en réunissant des dirigeants seniors de quatre des plus grands laboratoires d’intelligence artificielle du monde devant les législateurs. La séance a porté sur le potentiel des systèmes d’IA avancés à agir de façon non alignée avec les valeurs humaines et sur l’incertitude juridique entourant la responsabilité en cas de préjudice.

Parmi les représentants figuraient Logan Graham pour Anthropic, Morgan Dwyer pour OpenAI, Alice Friend pour Google et Shane Cahill pour Meta. Leur comparution faisait suite à la menace de citations à comparaître ; Meta avait accepté de témoigner plus tôt, tandis que les autres entreprises n’ont accepté qu’après l’annonce d’une éventuelle action judiciaire du conseil.

Principales inquiétudes soulevées par les experts

L’ancien chercheur de DeepMind Alex Turner a averti que les systèmes d’IA pourraient poursuivre des objectifs divergents de l’intention humaine, créant un risque de conséquences catastrophiques s’ils ne sont pas maîtrisés. Ses remarques ont fait écho aux avertissements antérieurs des spécialistes de la sécurité de l’IA concernant le « décalage d’objectif » dans des modèles de plus en plus autonomes.

Deux anciens employés, Jacob Coxon d’Anthropic et Daniel Kokotajlo d’OpenAI, ont réclamé davantage de transparence sur les feuilles de route de développement et ont appelé à un ralentissement délibéré des travaux qui repoussent les frontières de performance. Leurs déclarations soulignent un débat interne croissant entre la vitesse d’innovation et les garde‑fous de sécurité.

Critique du conseil sur la quantification des risques

La présidente du conseil, Julie Menin, a critiqué les témoignages pour l’absence d’une évaluation quantitative claire du risque catastrophique. Elle a souligné que, sans indicateurs concrets, les décideurs ne peuvent concevoir de stratégies d’atténuation efficaces ni allouer les ressources de façon appropriée.

Menin a également mis en avant la zone juridique grise entourant la responsabilité. « Si un système d’IA cause des dommages, qui en est responsable ? », a‑t‑elle demandé, insistant sur la nécessité d’un cadre législatif définissant la responsabilité tant des développeurs que des déployeurs.

Positions de l’industrie face à la régulation

Alice Friend de Google a défendu une approche réglementaire fédérale et uniforme, arguant qu’un patchwork de règles locales étoufferait l’innovation et créerait un chaos de conformité pour les entreprises multinationales.

En revanche, Logan Graham d’Anthropic a reconnu les préoccupations du conseil mais a suggéré que des normes volontaires de l’industrie pourraient compléter, plutôt que remplacer, toute future législation fédérale.

Implications juridiques

Les législateurs ont rappelé que l’absence de législation précise expose les villes à des litiges coûteux et que les entreprises pourraient voir leurs assurances augmenter si les assureurs perçoivent un risque non maîtrisé. Ils ont donc proposé d’établir un registre public des incidents liés à l’IA afin de faciliter les enquêtes et d’alimenter les futures décisions de politique publique.

• Morgan Dwyer d’OpenAI a promis d’accroître la transparence sur les capacités des modèles
• Logan Graham d’Anthropic a annoncé la publication d’un cadre d’évaluation des risques
• Shane Cahill de Meta s’est engagé à créer un groupe de travail inter‑entreprises sur la sécurité
• Alice Friend de Google a exhorté le Congrès à adopter une loi nationale sur la sécurité de l’IA

SpaceXAI, un nouvel entrant dans le domaine de l’IA, n’a pas comparu malgré une citation officielle. Le conseil a annoncé qu’il demanderait une ordonnance judiciaire pour contraindre la société à assister, signifiant que la non‑conformité entraînera des conséquences légales.

Pour les organisations francophones, cette audition représente un tournant. Elle montre que les autorités locales sont prêtes à exercer leur pouvoir de citation pour obtenir des témoignages, et que l’absence d’un régime réglementaire unifié pourrait bientôt laisser place à une législation nationale. Les entreprises opérant en France et en Europe doivent s’attendre à des obligations de reporting plus strictes, à d’éventuels audits de sécurité obligatoires et à des règles de responsabilité plus claires, susceptibles d’impacter les calendriers de lancement de produits et les coûts d’assurance.