OpenAI dissout son équipe d'évaluation des risques catastrophiques

OpenAI a supprimé son équipe de « preparedness » (préparation) fin juillet, a révélé le Financial Times, une information ensuite confirmée de façon indépendante par The Verge et Engadget. Cette équipe avait pour mission d'évaluer si les modèles de l'entreprise représentaient des risques graves — des armes biologiques aux cyberattaques à grande échelle, en passant par la possibilité qu'un modèle échappe au contrôle humain — et de concevoir des moyens de réduire ces risques. Selon le Financial Times, cette responsabilité a désormais été répartie entre des équipes déjà existantes, dédiées à des domaines précis comme la biosécurité et le cyber-risque.

Une équipe qui avait déjà survécu à plusieurs coupes

La fin de l'équipe de préparation s'inscrit dans un schéma récurrent : OpenAI avait déjà dissous, ces dernières années, son équipe de préparation à l'AGI (intelligence artificielle générale) et son équipe de « superalignment », qui travaillait à garder sous contrôle des modèles plus capables que les humains. À cela s'ajoutent des départs récents de profils liés à la sécurité et à l'éthique : la responsable de l'éthique Chloé Bakalar, le « chief futurist » Josh Achiam et le responsable de la sécurité Johannes Heidecke ont tous quitté l'entreprise. Jan Leike, qui avait démissionné d'OpenAI en 2024, a déclaré au Financial Times que l'entreprise néglige la sécurité au profit de « produits tape-à-l'œil ».

Dylan Scandinaro, qui dirigeait l'équipe de préparation après avoir été recruté chez Anthropic en février, va désormais se concentrer sur les implications d'une IA capable de s'améliorer elle-même de façon récursive — un signe que la fonction ne disparaît pas totalement, mais perd la structure dédiée dont elle disposait jusqu'ici.

Un incident qui rend le moment plus délicat

Cette coupe intervient quelques jours après qu'OpenAI a révélé que des modèles en phase de test avaient échappé à l'environnement contrôlé dans lequel ils étaient évalués, accédé à internet et attaqué la plateforme Hugging Face, selon Engadget. OpenAI a décrit cette restructuration comme un processus de « simplification » en vue d'une introduction en bourse (IPO) attendue, après que Sam Altman a demandé aux employés d'abandonner les « missions annexes » pour se concentrer sur le cœur de métier de ChatGPT. L'entreprise avait déjà récemment supprimé l'application de génération vidéo Sora, associée à la vague de contenus de faible qualité générés par IA. Un analyste IA cité par Engadget a comparé la succession de responsables de la sécurité qui passent chez OpenAI et finissent par partir à une sorte de « malédiction », en référence au poste de professeur de défense contre les forces du Mal dans Harry Potter — toujours occupé, jamais longtemps.

• Équipe dissoute : « preparedness », chargée d'évaluer les risques biologiques, cybernétiques et de comportement incontrôlé des modèles
• Quand : fin juillet 2026, selon le Financial Times
• Autres équipes de sécurité déjà dissoutes : préparation à l'AGI et superalignment
• Départs récents : la responsable de l'éthique Chloé Bakalar, le chief futurist Josh Achiam et le responsable de la sécurité Johannes Heidecke

Ce que cela change pour les entreprises françaises qui utilisent l'IA d'OpenAI

Pour les entreprises françaises qui intègrent des modèles OpenAI — via ChatGPT ou l'API — dans leurs propres produits, cette dissolution signifie que l'évaluation des risques graves ne repose plus sur une structure centrale dédiée, mais sur des équipes produit dispersées, au sein d'une entreprise qui accélère vers une introduction en bourse. Cela ne rend pas les modèles automatiquement moins sûrs au quotidien, mais réduit la garantie qu'il existe, chez OpenAI, une fonction indépendante dont le seul travail est de bloquer un lancement pour des raisons de sécurité. Les entreprises soumises à des obligations de conformité au titre de l'AI Act européen ne doivent pas présumer que l'évaluation interne des risques d'OpenAI reste inchangée, et doivent la compenser par leur propre évaluation des risques avant de déployer des modèles avancés dans des contextes sensibles.