Kalifornien verabschiedet KI‑Arbeitnehmerschutzgesetze mit menschlicher Prüfung, Offenlegung von Entlassungen und Beschränkungen der Überwachung

Am 30. September 2026 hat Gouverneur Gavin Newsom ein umfassendes Paket von Gesetzen unterzeichnet, das sowohl Arbeitnehmer als auch Verbraucher in den Blick nimmt und sich speziell auf den Einsatz von Künstlicher Intelligenz (KI) konzentriert. Diese Gesetzesinitiative ist die erste ihrer Art in den Vereinigten Staaten, weil sie ausdrücklich menschliche Prüfungen in Entscheidungen über disziplinarische Maßnahmen und Kündigungen vorschreibt, die Transparenz bei KI‑induzierten Massenentlassungen erhöht und die Nutzung von KI‑gestützter Überwachung in besonders sensiblen Bereichen wie Toilettenräumen einschränkt. Die neuen Regelungen ergänzen ein breiter angelegtes kalifornisches KI‑Regelwerk, das bereits Vorgaben für den Gesundheitssektor, die Hochschulbildung, die öffentliche Beschaffung, die juristische Praxis, den Missbrauch von Deep‑Fake‑Technologie und die Kontrolle von Gen‑Synthese‑Unternehmen enthält.

Wesentliche Bestimmungen für Beschäftigungsentscheidungen

• SB 947 – verbietet es Arbeitgebern, sich ausschließlich auf KI für disziplinarische oder Kündigungsentscheidungen zu verlassen.
• SB 951 – schafft eine Pflicht zur menschlichen Prüfung jedes KI‑Systems, das die Beschäftigungssituation eines Mitarbeiters beeinflussen könnte.
• AB 1331 – verlangt die Offenlegung, wenn eine Massenentlassung, Versetzung oder Kündigung durch ein KI‑System verursacht wird.
• AB 1883 – fügt Dokumentationspflichten für KI‑gesteuerte Personalmaßnahmen hinzu.

Zusammen verhindern SB 947 und SB 951, dass ein rein algorithmischer Ansatz bei der Entlassung oder Disziplinierung von Personal angewendet wird. Nach SB 947 darf ein Arbeitgeber KI zwar als Hilfsmittel einsetzen, jedoch muss die endgültige Entscheidung von einer qualifizierten Person getroffen werden. SB 951 erweitert diese Anforderung, indem es festlegt, dass jedes KI‑System, das potenziell Auswirkungen auf Beschäftigungsentscheidungen hat, einem dokumentierten menschlichen Prüfungsprozess unterzogen werden muss, bevor es in die Praxis umgesetzt wird. Die Gesetze verbieten KI nicht grundsätzlich am Arbeitsplatz, sondern stellen sicher, dass ein Mensch – nicht eine Maschine – die letztendliche Autorität über nachteilige arbeitsrechtliche Maßnahmen besitzt.

Verpflichtende Offenlegung von KI‑gesteuerten Personalveränderungen

AB 1331 und AB 1883 reagieren auf die wachsende Besorgnis, dass KI stillschweigend zu großflächigen Stellenabbau führen könnte. Das Gesetz verpflichtet Arbeitgeber, jede Massenentlassung, Versetzung oder Kündigung, die direkt durch ein KI‑System verursacht wird, schriftlich offenzulegen. Diese Offenlegung muss sowohl den betroffenen Beschäftigten als auch der staatlichen Arbeitsbehörde zugehen und schafft damit ein transparentes Register von KI‑induzierten Störungen der Belegschaft. Das Gesetz definiert keinen konkreten Schwellenwert für das, was als „Massen‑“ Ereignis gilt; die Bewertung liegt im Ermessen der Behörden, die die Regelung durchsetzen werden.

Beschränkungen der Arbeitsplatz‑Überwachung

Die neuen Gesetze legen zudem klare Grenzen für den Einsatz von KI‑basierten Überwachungssystemen fest. Arbeitgeber dürfen KI‑Monitoring‑Tools nicht mehr in privaten Bereichen einsetzen, in denen ein berechtigter Anspruch auf Privatsphäre besteht, etwa in Toiletten, Umkleideräumen oder ähnlichen Räumen. Darüber hinaus wird die kontinuierliche KI‑gestützte Verfolgung von Mitarbeiterbewegungen oder biometrischen Daten nur dann erlaubt, wenn ein klar dokumentierter, arbeitsbezogener Zweck vorliegt und, soweit machbar, den Beschäftigten eine Opt‑out‑Möglichkeit eingeräumt wird. Diese Bestimmungen sollen ein Gleichgewicht zwischen legitimen Sicherheits‑ oder Produktivitätsinteressen und den grundsätzlichen Rechten auf Privatsphäre schaffen.

Weiterer regulatorischer Kontext in Kalifornien

Die arbeitnehmer‑fokussierten Gesetze stehen neben anderen am selben Tag angekündigten Initiativen des Bundesstaates. Im Gesundheitswesen verlangt der Staat, dass KI‑Werkzeuge, die Diagnose oder Behandlung beeinflussen, einer unabhängigen Validierung unterzogen und den Patienten offengelegt werden. Hochschulen, die staatliche Fördermittel erhalten, müssen KI‑Ethik‑ und Sicherheitsmodule in ihre Lehrpläne integrieren. Öffentliche Beschaffungsregeln verpflichten nun den Staat, dass gekaufte KI‑Systeme Transparenz‑ und Bias‑Minderungsstandards erfüllen. Ein separates Gesetz hält Rechtsanwälte für die Kernarbeit, die von KI geleistet wird, zur Verantwortung und verlangt, dass die letztendliche Haftung beim Anwalt bleibt. Weitere Gesetze kriminalisieren den Einsatz von Deep‑Fake‑Technologie zur Identitätsfälschung und verpflichten Unternehmen, die Gene‑Synthese anbieten, ihre Kunden auf potenziellen Missbrauch zu prüfen.

Pflichten zur menschlichen Prüfung und Dokumentation

Ein zentrales Thema aller arbeitnehmerbezogenen Maßnahmen ist die Dokumentation. Arbeitgeber müssen Aufzeichnungen führen, die zeigen, wann ein KI‑System konsultiert wurde, welche Daten verarbeitet wurden, die Begründung für etwaige Empfehlungen und die nachfolgende menschliche Entscheidung. Diese Protokolle müssen für einen vom Arbeitsministerium festgelegten Zeitraum aufbewahrt und bei Inspektionen oder Streitigkeiten vorgelegt werden können. Die Anforderung einer menschlichen Prüfung schließt die Nutzung von KI zur Effizienzsteigerung nicht aus; sie schafft vielmehr ein Sicherheitsnetz, das sicherstellt, dass ein Mensch eingreifen, korrigieren oder eine algorithmische Empfehlung ablehnen kann.

Auswirkungen für Arbeitgeber

Mit sofortiger Wirkung müssen Arbeitgeber in Kalifornien ihre bestehenden KI‑Werkzeuge prüfen, um festzustellen, ob sie in disziplinarischen, kündigungsrelevanten, layoff‑bezogenen oder Überwachungs‑Kontexten eingesetzt werden. Unternehmen werden formelle menschliche Prüfungsausschüsse einrichten, Richtlinien aktualisieren, um Offenlegungsverfahren für KI‑gesteuerte Personalmaßnahmen zu integrieren, und Überwachungssysteme so umgestalten müssen, dass private Bereiche ausgeschlossen werden. Die Nichteinhaltung kann zivilrechtliche Strafen und Durchsetzungsmaßnahmen durch die staatliche Arbeitsbehörde nach sich ziehen. In der Praxis können Organisationen mit einer Anpassungsphase rechnen, während sie menschliche Aufsicht einführen, Dokumentationspraktiken überarbeiten und Führungskräfte über die neuen gesetzlichen Verpflichtungen schulen.