Le Sénat de Californie vote à l'unanimité l'interdiction de commercialiser des chatbots comme « thérapie psychologique »

Le Sénat de l'État américain de Californie a adopté, par un vote bipartisan de 39 voix contre 0, le projet de loi SB 903, présenté par le sénateur Steve Padilla. Le texte passe maintenant devant l'Assemblée de l'État pour poursuivre son parcours législatif. Selon le communiqué officiel du bureau du sénateur Padilla, l'objectif du projet est de garantir que les services de santé mentale restent sûrs, éthiques et dispensés par des professionnels formés, et non par des algorithmes d'intelligence artificielle.

Ce que le texte change concrètement

Le projet de loi repose sur trois axes principaux. D'abord, il interdit aux entreprises de faire la publicité ou de commercialiser des chatbots comme une « thérapie psychologique » ou un service de santé mentale, sauf supervision par un professionnel agréé. Ensuite, il empêche les systèmes d'intelligence artificielle de prendre seuls des décisions thérapeutiques, sans l'examen d'un professionnel de santé mentale ou de santé agréé. Enfin, il impose aux prestataires de soins d'obtenir le consentement du patient avant d'utiliser l'intelligence artificielle pour enregistrer des séances de thérapie ou pour trier et orienter les cas.

Le sénateur Padilla a résumé la philosophie du texte en ces termes : « Alors que les capacités techniques continuent de croître et que de nouveaux outils entrent dans le champ de la santé mentale, nous devons garantir des garde-fous suffisants pour préserver une approche centrée sur l'humain, en plaçant la sécurité et les considérations éthiques au premier plan. Le SB 903 trace une ligne claire : l'intelligence artificielle peut être un outil entre les mains de professionnels agréés, mais elle ne peut pas être le professionnel lui-même. »

Le projet intervient dans un contexte de pénurie réelle de professionnels de la santé mentale dans l'État : environ un tiers des Californiens vivent dans des zones où le ratio de professionnels de la santé mentale par habitant est insuffisant. Cette pénurie a poussé un nombre croissant de personnes à se tourner vers des chatbots pour obtenir un soutien psychologique. Selon un rapport de la Harvard Business Review, la thérapie et la compagnie figurent parmi les usages les plus courants de ChatGPT cette année. Le marché a vu apparaître des produits explicitement commercialisés comme des « thérapeutes IA », dont Therabot, Wysa, TherapyAI, TherapistGPT et Abby.

Selon le communiqué officiel, des psychiatres pointent plusieurs préoccupations liées à ces outils : questions de confidentialité et de protection des données, compréhension limitée du contexte propre à chaque patient, risque de dépendance excessive de l'utilisateur envers le robot, recommandations thérapeutiques inexactes, et incapacité à percevoir des signaux de communication précis comme le ton de la voix ou le contact visuel. Dans un sondage mené par l'Association américaine de psychiatrie, 80 % des membres ont exprimé une inquiétude importante ou modérée quant au manque de formation des professionnels de la santé mentale en matière d'intelligence artificielle. Le projet est coparrainé par l'Association psychologique de Californie, l'Association californienne des thérapeutes conjugaux et familiaux, l'Association californienne de la santé comportementale, et le Syndicat national des travailleurs de la santé (NUHW).

Un débat entre protection des patients et facilitation de l'accès aux soins

Le projet ne fait pas l'unanimité en dehors de l'hémicycle du Sénat. Selon le journal The Independent, des détracteurs estiment que le texte pourrait entraver des usages légitimes de l'intelligence artificielle et limiter la capacité des prestataires à utiliser des outils intelligents pour orienter plus rapidement les patients vers un traitement. Robert Boykin, directeur exécutif du groupe industriel technologique TechNet en Californie, a déclaré à CalMatters : « À un moment où chaque comté de Californie souffre d'une pénurie de travailleurs en santé comportementale, le SB 903 continue de placer un goulot d'étranglement clinique devant les outils d'accueil et de tri qui aident les patients à accéder plus rapidement aux soins. »

À l'inverse, le Syndicat national des travailleurs de la santé, qui soutient le projet, a déposé une plainte auprès des autorités de régulation de Californie, accusant le système de santé Kaiser Permanente d'utiliser un système de « visite électronique » automatisé, sans supervision de professionnels, pour fournir des recommandations de soins à des patients souffrant d'anxiété ou de dépression. L'entreprise a répondu qu'elle « n'utilise pas l'intelligence artificielle pour diagnostiquer les patients, prendre des décisions cliniques ou déterminer la nécessité médicale ».

Des données récentes confirment l'ampleur du phénomène en débat. Une étude de 2025 menée par la RAND Corporation, en collaboration avec les universités Brown et Harvard, a révélé qu'environ un adolescent ou jeune adulte sur huit se tourne vers des chatbots pour obtenir des soins de santé mentale. Jonathan Cantor, chercheur principal en politiques publiques à la RAND, a déclaré : « Il existe peu de normes de référence unifiées pour évaluer les conseils psychologiques donnés par les chatbots d'intelligence artificielle, et la transparence reste limitée quant aux jeux de données utilisés pour entraîner ces grands modèles de langage. » Une étude de l'Association américaine de psychologie menée cette année a par ailleurs révélé que 77 % des psychologues avaient échangé avec des patients ayant utilisé l'intelligence artificielle pour un soutien, une interaction ou d'autres raisons, tandis qu'OpenAI a révélé en octobre qu'environ 1,2 million de personnes envoient chaque semaine des messages à ChatGPT contenant des indices explicites de pensées ou d'intentions suicidaires potentielles.

Hamilton Morrin, chercheur clinicien en neuropsychiatrie au King's College de Londres, a déclaré à la Harvard Business Review : « Compte tenu des longues listes d'attente et de la difficulté d'accès aux soins et à la thérapie psychologique dans de nombreux pays, il n'est peut-être pas surprenant qu'un nombre croissant de personnes se tournent vers l'intelligence artificielle générative pour obtenir un soutien à leur bien-être émotionnel. »

Ce que cela signifie pour les pays francophones

Bien que le SB 903 soit un texte local propre à l'État de Californie, et qu'il doive encore être approuvé par l'Assemblée avant de devenir loi, il ouvre un débat qui dépasse les frontières américaines. Dans de nombreux pays francophones également, l'accès aux professionnels de la santé mentale reste limité par le manque de personnel formé, le coût élevé des traitements et la stigmatisation sociale qui entoure encore la santé mentale — autant de facteurs qui poussent un nombre croissant d'utilisateurs, notamment parmi les jeunes, à essayer les chatbots comme premier recours ou solution de repli pour un soutien psychologique. S'il n'existe pas encore de données locales aussi précises que les études américaines citées plus haut, l'ampleur du débat réglementaire en Californie, foyer mondial de l'industrie technologique, rend probable que ce texte, une fois définitivement adopté, devienne une référence pour d'autres régulateurs ou plateformes numériques dans le monde, y compris celles utilisées dans les pays francophones, afin d'établir des règles similaires sur la transparence de la nature du robot, le consentement de l'utilisateur et la supervision humaine de toute recommandation liée à la santé mentale.