Californie : nouvelles lois imposent révision humaine, divulgation des licenciements IA et limites de surveillance au travail

Le 30 septembre 2026, le gouverneur Gavin Newsom a signé un paquet législatif centré sur l’intelligence artificielle, destiné à protéger à la fois les travailleurs et les consommateurs californiens. Cette série de mesures représente le premier effort d’un État américain à intégrer une exigence explicite de révision humaine dans les processus d’emploi, à rendre publiques les réductions de personnel déclenchées par des systèmes automatisés, et à encadrer l’usage de la surveillance algorithmique dans les espaces où la vie privée est attendue. Le cadre s’inscrit dans une stratégie plus large qui touche la santé, l’enseignement supérieur, les achats publics, la pratique juridique, les deep‑fakes et la synthèse génétique.

Principales dispositions pour l’emploi

• SB 947 – interdit aux employeurs de se fier uniquement à l’IA pour des mesures disciplinaires ou de licenciement.
• SB 951 – crée une obligation de révision humaine pour tout système d’IA susceptible d’influencer le statut professionnel d’un employé.
• AB 1331 – impose la divulgation lorsqu’un licenciement de masse, une relocalisation ou une résiliation est causé par un système d’IA.
• AB 1883 – ajoute des obligations de documentation pour les actions de main‑d’œuvre pilotées par l’IA.

Les SB 947 et SB 951 forment le socle des nouvelles protections. Selon le texte de la SB 947, un employeur peut recourir à un outil d’IA pour analyser des données, mais la décision finale de sanction ou de licenciement doit être prise par une personne qualifiée, généralement un responsable des ressources humaines ou un manager formé. La SB 951 élargit ce principe en exigeant que tout algorithme capable d’influencer une affectation, une promotion ou un licenciement soit soumis à un processus de révision humaine documenté avant son déploiement. Cette documentation doit préciser qui a effectué la révision, quels critères ont été appliqués et comment la décision humaine a été consignée.

Ces exigences ne prohibent pas l’usage de l’IA pour gagner en efficacité ; elles instaurent simplement un filet de sécurité. En pratique, les entreprises doivent mettre en place des comités ou des procédures formelles où un professionnel, formé aux limites des systèmes automatisés, examine chaque recommandation avant qu’elle ne devienne contraignante. Le texte précise que la révision doit être « délibérée », c’est‑à‑dire que le décideur doit prendre le temps d’évaluer la pertinence de la suggestion algorithmique, de vérifier les données d’entrée et de considérer les impacts humains avant d’approuver ou de rejeter la mesure proposée.

Obligations de divulgation et de documentation

Les AB 1331 et AB 1883 répondent à la crainte que les algorithmes puissent déclencher des suppressions massives sans transparence. La loi impose aux employeurs de notifier par écrit tout licenciement de masse, toute relocalisation ou toute résiliation directement attribuable à un système d’IA. Cette notification doit être adressée aux salariés concernés et à l’agence étatique du travail, créant ainsi un registre public des perturbations de la main‑d’œuvre induites par l’automatisation. Le texte ne fixe pas de seuil chiffré pour qualifier un « événement de masse », laissant aux autorités la responsabilité d’interpréter la portée en fonction du contexte sectoriel.

Parallèlement, la AB 1883 exige que les employeurs conservent des journaux détaillés montrant quand un système d’IA a été consulté, quelles données il a traitées, la logique de la recommandation et la décision humaine qui a suivi. Ces archives doivent être conservées pendant la durée définie par le département du travail et mises à disposition lors d’inspections ou de litiges. L’objectif est de garantir la traçabilité et de permettre aux autorités de vérifier que les exigences de révision humaine ont bien été respectées, tout en offrant aux salariés un moyen de contester des décisions qu’ils jugent injustes.

Restrictions de la surveillance basée sur l’IA

Les nouvelles dispositions encadrent également la surveillance algorithmique sur le lieu de travail. Les employeurs ne peuvent plus installer d’outils de suivi IA dans des espaces où les employés s’attendent à une intimité raisonnable, comme les toilettes, les vestiaires ou les salles de repos. En dehors de ces zones, le suivi continu des déplacements ou la collecte de données biométriques ne sont autorisés que si un objectif clairement lié aux fonctions du poste est documenté et que les salariés disposent d’une option de refus lorsque cela est techniquement possible. Cette approche vise à équilibrer les besoins de sécurité ou de productivité avec le respect des droits fondamentaux à la vie privée.

Les exigences de consentement et de documentation s’appliquent également aux systèmes qui analysent les expressions faciales, les niveaux de stress ou d’autres indicateurs physiologiques. Les employeurs doivent informer les travailleurs de la nature des données collectées, de la finalité du traitement et des mécanismes de recours disponibles. En cas de non‑respect, les sanctions prévues incluent des amendes civiles et des actions d’application de la part de l’agence du travail, renforçant ainsi le caractère dissuasif de la réglementation.

Contexte plus large et implications pour les employeurs

Les mesures ciblant les travailleurs s’ajoutent à d’autres initiatives annoncées le même jour. Dans le secteur de la santé, l’État exige que les outils d’IA influençant le diagnostic ou le traitement soient validés de façon indépendante et que les patients reçoivent une information claire sur leur usage. Les universités publiques recevant des fonds doivent intégrer des modules d’éthique et de sécurité de l’IA dans leurs curricula. Les règles d’achats publics imposent désormais que les systèmes d’IA achetés par l’État respectent des normes de transparence et d’atténuation des biais. Une loi distincte rend les avocats responsables du travail juridique réalisé par l’IA, insistant sur le fait que la responsabilité finale demeure humaine. D’autres textes criminalisent l’usage de deep‑fakes à des fins d’usurpation d’identité et obligent les entreprises de synthèse génétique à filtrer leurs clients pour éviter tout détournement.

Pour les employeurs californiens, la mise en conformité implique un audit complet des outils d’IA déjà déployés afin d’identifier ceux qui interviennent dans les processus disciplinaires, les décisions de licenciement, les réductions d’effectif ou la surveillance. Les organisations devront créer des comités formels de révision humaine, mettre à jour leurs politiques internes pour inclure les procédures de divulgation et de documentation, et reconfigurer les systèmes de suivi afin d’exclure les zones privées. Le non‑respect expose les entreprises à des sanctions civiles, à des amendes et à des actions d’application de l’agence du travail. En pratique, une période d’ajustement est attendue pendant laquelle les employeurs formeront leurs gestionnaires aux nouvelles obligations, adapteront leurs flux de travail et établiront les archives requises pour répondre aux exigences de transparence et de responsabilité.