Shadow AI : les règles courent après les usages — et les laboratoires eux-mêmes se trompent

L'IA générative s'est installée dans le quotidien professionnel allemand, la régulation interne, elle, n'a pas suivi. Environ 75 % des travailleurs du savoir utilisent déjà l'IA, la plupart du temps sans autorisation officielle. Presque toutes les entreprises — 98 % — disposent d'une stratégie IA, mais seulement 39 % en pilotent activement l'usage depuis la direction générale. Le Work Trend Index recense 60 % des dirigeants qui reconnaissent eux-mêmes ne pas avoir de plan clair pour la mise en œuvre. Entre le document stratégique et le poste de travail se creuse ainsi un écart de conformité qui a désormais un nom : le Shadow AI.

Le « bring your own AI » n'est rarement une mauvaise intention

78 % des utilisateurs d'IA apportent leurs propres outils au travail. La raison est banale : ils veulent aller plus vite et ne trouvent, en interne, aucune offre validée. Selon Bitkom, seules 26 % des entreprises mettent aujourd'hui des services IA officiels à disposition de leurs salariés. Laisser les trois quarts d'un effectif travailler avec une technologie que seul un quart des employeurs fournit ne crée pas une culture d'innovation, mais une informatique fantôme dotée d'un modèle de langage.

Le risque devient critique là où se trouvent les données. Les RH, la finance, la fiscalité et le juridique traitent régulièrement des contenus personnels et juridiquement sensibles. Dès qu'un dossier de candidature ou des données salariales sont copiés dans un outil public, les principes de minimisation des données et de limitation des finalités de l'article 5 du RGPD s'appliquent — et personne, en interne, ne peut dire comment ces données sont traitées ou conservées. S'y ajoute, depuis août, l'obligation de transparence et de documentation de l'AI Act européen pour les cas d'usage ayant un impact sur des personnes, des droits ou la sécurité.

• Protection des données : quelles données personnelles ou sensibles pour l'entreprise peuvent alimenter quel modèle ?
• Régulation : le cas d'usage relève-t-il des obligations de transparence et de documentation de l'AI Act européen ?
• Compétence métier : qui répond du résultat si personne ne vérifie la sortie sur le fond ?

Un an sans filtre — chez Anthropic

Ceux qui pensaient que les laboratoires eux-mêmes avaient comblé cet écart ont été détrompés la même semaine. Anthropic a révélé, dans son propre rapport de sécurité, que de mai 2025 à avril 2026, l'ensemble des données de prestataires externes est passé par ses systèmes sans que les classificateurs biologiques bloquants ne soient actifs. Ces filtres sont censés empêcher que des connaissances dangereuses sur les armes chimiques ou biologiques ne soient extraites des modèles. Étaient concernées environ 50 000 personnes, qui ont mené ensemble près de 133 millions de conversations avec les modèles ; leur contrôle reposait uniquement sur les prestataires externes, dont le filtrage, selon Anthropic, s'est souvent révélé insuffisant.

Après enquête interne, l'entreprise n'a trouvé aucun indice d'un usage réellement abusif et a depuis durci les exigences envers ses prestataires. Le détail n'en reste pas moins révélateur : c'est la même entreprise dont le dirigeant, Dario Amodei, juge le risque chimique et biologique plus dangereux que les cyberattaques. Ce n'est pas la règle qui manquait, mais le contrôle qu'elle fonctionnait réellement.

Une règle dont personne ne mesure l'efficacité n'est pas un contrôle — c'est une déclaration d'intention avec un numéro de dossier.

OpenAI dissout son équipe Preparedness

Chez OpenAI, le mouvement s'est fait plus ouvertement. Fin juillet, l'entreprise a dissous son équipe Preparedness, chargée d'évaluer si ses propres modèles présentaient des risques graves ou catastrophiques — selon le Financial Times, qui cite plusieurs sources internes. Les responsabilités liées aux risques biologiques et cyber ont été réparties entre des équipes existantes ; l'ancien responsable, Dylan Scandinaro, étudie désormais les risques des systèmes capables de s'améliorer eux-mêmes de façon récursive. Le cofondateur Greg Brockman a expliqué que le travail de sécurité avait été davantage intégré au développement des modèles.

En interne, le discours est différent. Plusieurs salariés du pôle sécurité ont récemment démissionné, dont la responsable de l'éthique Chloe Bakalar et Joshua Achiam. Une source décrit un sentiment diffus de responsabilité et de crainte que l'entreprise n'en fasse pas assez sur la sécurité. Après l'incident de piratage autonome chez Hugging Face en particulier, des employés se sont exprimés publiquement de façon critique ; l'un d'eux a dit espérer qu'OpenAI comprenne cet incident comme un coup de semonce.

Ce que les entreprises devraient en retenir

Pour la gouvernance de l'IA en interne, les deux affaires livrent la même leçon inconfortable. Une liste d'outils validés, une charte et une session de formation produisent de la documentation, pas de la sécurité. Ce qui compte, c'est la question à laquelle ni Anthropic ni OpenAI n'avaient su répondre à temps : le contrôle fonctionne-t-il réellement aujourd'hui, et à quoi verrait-on qu'il a cessé de fonctionner ? Qui veut vraiment faire reculer le Shadow AI doit aussi répondre à la question que 78 % des salariés ont déjà tranchée avec leurs propres outils : quelle offre validée rend réellement leur travail plus rapide ? Interdire sans proposer d'alternative ne fait que déplacer l'usage là où plus personne ne le voit. Pour les entreprises françaises, souvent déjà engagées dans une mise en conformité RGPD, l'enjeu est le même : une charte IA signée ne vaut rien sans un canal officiel assez rapide pour concurrencer ChatGPT ouvert dans un onglet, et sans un test régulier prouvant que les garde-fous techniques tournent encore.