Shadow AI: Wenn die Regeln der KI hinterherlaufen — und die Labore selbst danebenliegen

Generative KI ist im deutschen Arbeitsalltag angekommen, die interne Regelung dagegen nicht. Rund 75 Prozent der Wissensarbeiter nutzen KI bereits, meist ohne offizielle Freigabe. Fast alle Unternehmen — 98 Prozent — verfügen über eine KI-Strategie, doch nur bei 39 Prozent wird der Einsatz aktiv durch das Top-Management gesteuert. Der Work Trend Index zählt 60 Prozent der Führungskräfte, denen nach eigener Aussage ein klarer Plan für die Umsetzung fehlt. Zwischen dem Strategiepapier und dem Schreibtisch klafft damit eine Compliance-Lücke, die einen eigenen Namen bekommen hat: Shadow AI.

Bring Your Own AI ist selten böse Absicht

78 Prozent der KI-Nutzer bringen eigene Werkzeuge mit zur Arbeit. Der Grund ist banal: Sie wollen schneller arbeiten und finden im Haus kein freigegebenes Angebot. Laut Bitkom stellen bislang nur 26 Prozent der Unternehmen ihren Beschäftigten offizielle KI-Dienste bereit. Wer drei Viertel seiner Belegschaft mit einer Technologie arbeiten lässt, die nur ein Viertel der Arbeitgeber bereitstellt, bekommt keine Innovationskultur, sondern eine Schatten-IT mit Sprachmodell.

Kritisch wird das dort, wo die Daten es sind. In HR, Finance, Tax und Legal werden regelmäßig personenbezogene und rechtlich relevante Inhalte verarbeitet. Sobald Bewerbungsunterlagen oder Beschäftigtendaten in ein öffentliches Werkzeug kopiert werden, greifen die Grundsätze der Datenminimierung und Zweckbindung aus Artikel 5 DSGVO — und niemand im Haus kann sagen, wie diese Daten verarbeitet oder gespeichert werden. Dazu kommt seit August die Transparenz- und Dokumentationspflicht des EU AI Act für Anwendungsfälle mit Auswirkungen auf Personen, Rechte oder Sicherheit.

• Datenschutz: Welche personenbezogenen oder geschäftskritischen Daten dürfen in welches Modell fließen?
• Regulierung: Fällt der Anwendungsfall unter die Transparenz- und Dokumentationspflichten des EU AI Act?
• Fachlichkeit: Wer verantwortet das Ergebnis, wenn niemand die Ausgabe fachlich prüft?

Ein Jahr ohne Filter — bei Anthropic

Wer nun annimmt, die Labore selbst hätten diese Lücke geschlossen, wurde in derselben Woche eines Besseren belehrt. Anthropic hat in einem eigenen Sicherheitsbericht offengelegt, dass von Mai 2025 bis April 2026 sämtliche Daten externer Dienstleister ohne blockierende biologische Klassifikatoren durch die Systeme liefen. Diese Filter sollen verhindern, dass gefährliches Wissen über chemische oder biologische Waffen aus den Modellen abgegriffen wird. Betroffen war ein Pool von rund 50.000 Personen, die zusammen etwa 133 Millionen Chats mit den Modellen führten; überprüft wurden sie allein von den externen Anbietern, deren Screening laut Anthropic häufig nicht ausreichte.

Das Unternehmen fand nach eigener Untersuchung keine Hinweise auf tatsächlichen Missbrauch und hat die Anforderungen an seine Dienstleister inzwischen verschärft. Die Pointe liegt trotzdem im Detail: Es ist dasselbe Unternehmen, dessen Chef Dario Amodei das Risiko chemisch-biologischer Waffen für gefährlicher hält als Cyberangriffe. Nicht die Regel fehlte, sondern die Kontrolle, dass sie überhaupt lief.

Eine Regel, deren Wirksamkeit niemand misst, ist keine Kontrolle — sie ist eine Absichtserklärung mit Aktenzeichen.

OpenAI löst sein Preparedness-Team auf

Bei OpenAI verlief die Bewegung offener. Ende Juli hat das Unternehmen sein Preparedness-Team aufgelöst, das bewerten sollte, ob die eigenen Modelle schwere oder katastrophale Risiken bergen — berichtet die Financial Times unter Berufung auf mehrere interne Quellen. Die Zuständigkeiten für Bio- und Cyberrisiken wurden auf bestehende Teams verteilt; der bisherige Leiter Dylan Scandinaro untersucht nun die Risiken rekursiv selbstverbessernder Systeme. Mitgründer Greg Brockman sagte, die Sicherheitsarbeit sei tiefer in die Modellentwicklung integriert worden.

Intern klingt das anders. Mehrere Beschäftigte aus dem Sicherheitsbereich haben zuletzt gekündigt, darunter Ethik-Chefin Chloe Bakalar und Joshua Achiam. Eine Quelle beschrieb ein brodelndes Gefühl von Verantwortung und Angst, das Unternehmen tue beim Thema Sicherheit nicht genug. Besonders nach dem autonomen Hacking-Vorfall bei Hugging Face äußerten sich Angestellte auch öffentlich kritisch; einer sagte, er hoffe, OpenAI verstehe den Vorfall als Warnschuss.

Was Unternehmen daraus mitnehmen sollten

Für die KI-Governance im eigenen Haus ergibt sich aus beiden Fällen dieselbe unbequeme Lehre. Eine Freigabeliste, eine Richtlinie und ein Schulungstermin erzeugen Dokumentation, aber keine Sicherheit. Was zählt, ist die Frage, die weder Anthropic noch OpenAI rechtzeitig beantwortet hatten: Läuft die Kontrolle heute tatsächlich, und woran würden wir merken, dass sie ausgefallen ist? Wer Shadow AI wirklich zurückdrängen will, beantwortet außerdem die Frage, die 78 Prozent der Beschäftigten mit ihren eigenen Werkzeugen bereits beantwortet haben — nämlich welches freigegebene Angebot ihre Arbeit tatsächlich schneller macht. Verbote ohne Alternative verlagern die Nutzung nur dorthin, wo niemand sie mehr sieht.