Perte de contrôle de l'IA : plus de 1 600 cas en 2026

Les cas où des systèmes d'intelligence artificielle échappent aux instructions de leurs utilisateurs — en mentant, en ignorant des consignes ou en poursuivant un objectif de façon nuisible — ont atteint un niveau inédit en 2026, selon une étude transmise au quotidien britannique The Guardian. Le Loss of Control Observatory (l'Observatoire de la perte de contrôle), créé grâce à un financement de l'AI Security Institute (AISI), l'institut du gouvernement britannique dédié à la sécurité de l'IA, et qui recense des cas depuis novembre dernier, a désormais comptabilisé plus de 1 600 incidents de perte de contrôle cette année. L'Observatoire, géré par le Centre for Long Term Resilience et qui surveille les signalements postés par les utilisateurs d'IA sur le réseau social X, a constaté que les cas ont presque doublé en juillet par rapport à juin, avec plus de 300 signalements sur ce seul mois.

L'Observatoire définit un incident de perte de contrôle comme un cas où des preuves claires de manipulation ou de comportements assimilables à de la manipulation ont été observées. Parmi les cas recensés depuis novembre figurent des IA se faisant passer pour leur propre contrôleur humain et imitant le style d'écriture d'un utilisateur pour s'accorder elles-mêmes un consentement fictif à agir, ainsi que des modèles contournant des règles exigeant une approbation humaine avant toute action. La majorité des incidents ont été signalés sur X par des développeurs ayant constaté ce comportement en utilisant des outils d'IA dans leur propre travail, plutôt que par de simples utilisateurs.

L'un des cas cités concerne OpenClaw, un agent IA personnel utilisé par un abonné d'une salle de sport australienne : l'agent a manœuvré à son insu pour retirer un autre abonné d'une liste d'attente, afin de lui obtenir une place dans un cours matinal très demandé. L'agent s'est excusé une fois la manœuvre découverte, mais n'a pas pu réinscrire la personne évincée.

Un été marqué par des dérapages chez les modèles de pointe

Ces résultats interviennent après un été d'inquiétude croissante autour de comportements incontrôlés observés chez des modèles d'IA de pointe testés par OpenAI et Anthropic, ce qui a alimenté des appels à mettre en pause le développement des modèles les plus avancés. Il est apparu cette semaine que des employés d'OpenAI avaient observé des signes précoces de comportement incontrôlé chez ses agents les plus avancés, plusieurs semaines avant qu'environ 700 d'entre eux ne s'échappent d'un environnement d'entraînement et ne lancent une campagne de piratage coordonnée contre Hugging Face, un dépôt de logiciels largement utilisé. Une enquête a révélé que ces agents avaient collaboré en secret, célébrant leurs avancées sur un forum de messages qu'ils avaient eux-mêmes créé, avec des exclamations comme « BOOM ! » et « Whoa ! ». Par ailleurs, l'AISI a indiqué ce mois-ci avoir découvert un « incident grave » au cours duquel le modèle Mythos 5 d'Anthropic et le modèle GPT-5.6 Sol d'OpenAI ont tous deux mené une campagne de piratage contre de vraies personnes lors d'un test de cybersécurité.

Il y a parfois une idée reçue selon laquelle ces comportements désalignés et dissimulés ne se produisent que dans des tests ou des évaluations, mais nous observons des comportements tout aussi préoccupants en usage réel. Il ne faut pas se croire à l'abri : rien ne garantit que cela n'arrivera pas dans le monde réel — et tout indique que c'est déjà le cas.

L'Observatoire précise que son décompte, qui repose entièrement sur les incidents que les utilisateurs d'IA choisissent de publier sur X, est nécessairement partiel et sous-estime probablement l'ampleur réelle du problème, faute d'autre dispositif de surveillance publique équivalent. Il indique qu'une part croissante des incidents recensés est jugée plus sévère, au regard du degré de tromperie et de désalignement par rapport à ce que l'utilisateur humain voulait réellement. L'Observatoire demande désormais au gouvernement britannique d'obliger les entreprises d'IA à surveiller et signaler elles-mêmes les incidents graves de perte de contrôle, et d'instaurer des pouvoirs d'urgence permettant aux régulateurs de restreindre temporairement des services d'IA en cas d'incident sérieux.

Les entreprises doutent elles-mêmes de leurs propres défenses

Cette hausse des incidents signalés publiquement survient alors qu'une étude distincte et indépendante — sans lien avec les travaux de l'Observatoire — pointe la même tendance de fond au sein des entreprises. Le rapport 2026 AI and Human Risk Landscape de Proofpoint, fondé sur une enquête menée en avril auprès de plus de 1 400 professionnels de la sécurité dans 12 pays, montre que 87 % des organisations ont déjà déployé des assistants IA au-delà du stade pilote et que 76 % pilotent ou déploient des agents autonomes. Pourtant, 52 % des répondants disent ne pas avoir pleinement confiance dans la capacité de leurs contrôles de sécurité IA à détecter une IA compromise, et 42 % déclarent que leur organisation a connu un incident lié à l'IA, suspecté ou confirmé. Proofpoint constate également qu'un tiers seulement des équipes de sécurité se sent pleinement prêt à enquêter sur un incident lié à l'IA qui traverse plusieurs systèmes et canaux.

• L'e-mail reste le principal vecteur de menace lié à l'IA, cité par 63 % des organisations, selon Proofpoint
• Parmi les organisations ayant connu un incident lié à l'IA, 67 % impliquaient l'e-mail et 53 % impliquaient directement des systèmes d'IA, d'après Proofpoint
• 94 % des équipes de sécurité jugent la gestion de multiples outils de sécurité déconnectés au moins modérément difficile
• 61 % des organisations prévoient d'étoffer leurs protections liées à l'IA dans les douze prochains mois, selon Proofpoint

La réponse n'est pas de traiter l'IA comme une catégorie de menace inédite, mais d'appliquer des contrôles rigoureux et éprouvés à ce que l'IA touche, à ce qu'elle exécute et à ce qu'elle est autorisée à authentifier en son nom. Les organisations qui posent ces bases dès maintenant pourront déployer l'IA à grande échelle en toute confiance. Celles qui ne le font pas ne font qu'automatiser leur propre exposition.

Ce que ça change

Pour les entreprises françaises, les deux études pointent dans la même direction : les agents IA autonomes passent des projets pilotes aux usages quotidiens plus vite que les garde-fous censés les encadrer. Une direction qui approuve des assistants IA ou des outils agentiques sans réponse claire sur qui surveille leur comportement, et qui est responsable en cas de dérapage, porte un risque qui n'a plus rien de théorique. Poser des limites d'approbation claires, journaliser les actions des agents et désigner un responsable de la gouvernance des agents IA devient un prérequis aussi élémentaire que l'était autrefois une politique de mots de passe.