New York öffnet KI-Sicherheitsregister für OpenAI und Anthropic

New York geht bei Frontier-KI vom Gesetz zur Durchsetzung über. Am Dienstag, dem 10. November, hat der Bundesstaat ein Registrierungsportal geöffnet, das große Frontier-Entwickler wie OpenAI und Anthropic laut TechCrunch bis zum 1. Januar 2027 nutzen müssen. An diesem Tag beginnen auch die Pflichten des RAISE Act zu gelten; die Meldung ist also weniger ein plötzlicher Umbruch als der Beginn eines Countdowns.

Was das Gesetz verlangt

Der Responsible AI Safety and Education (RAISE) Act richtet sich an große Frontier-Entwickler, die TechCrunch als Unternehmen mit mehr als 500 Millionen Dollar Jahresumsatz definiert. Laut dem Büro von Gouverneurin Kathy Hochul, das das Gesetz in einer Mitteilung vom 21. September beschrieb, müssen diese Unternehmen:

• Sicherheits- und Transparenzrahmen erstellen und auf der eigenen Website veröffentlichen;
• kritische Sicherheitsvorfälle innerhalb von 72 Stunden an das neue Amt DIGIT melden;
• vierteljährliche Bewertungen katastrophaler Risiken bei DIGIT einreichen;
• sich bei DIGIT registrieren, ab dem 1. Januar 2027 mindestens alle zwei Jahre eine Offenlegungserklärung abgeben und Gebühren zahlen.

TechCrunch erwähnt außerdem öffentliche Transparenzberichte zu den Modellen. CIO Dive, das im Dezember 2025 über die Unterzeichnung des Gesetzes berichtete, ergänzt, dass Entwickler eine leitende Person für die Einhaltung benennen müssen. Das Medium nennt Beispiele für meldepflichtige Vorfälle: ein Frontier-Modell, das autonom außerhalb dessen handelt, was der Nutzer verlangt hat, ein kritischer Ausfall technischer Kontrollen oder Diebstahl, böswillige Nutzung oder unbefugter Zugriff auf das Modell.

Auch die Öffentlichkeit kann bei DIGIT Meldungen über mutmaßliche kritische Vorfälle einreichen, die das Amt an andere Behörden weitergeben kann, so das Büro der Gouverneurin. DIGIT wird jährlich einen Bericht veröffentlichen, der die eingegangenen Meldungen, seine Beobachtungen zur Sicherheit von Frontier-Modellen und empfohlene Gesetzesänderungen zusammenfasst.

Wer durchsetzt und was es kosten kann

Das Office of Digital Innovation, Governance, Integrity, and Trust (DIGIT) ist beim Department of Financial Services des Staates New York angesiedelt. Marc Gilman, im September zum stellvertretenden Direktor für den RAISE Act ernannt, ist die erste Vollzeitkraft, und das Büro der Gouverneurin kündigt weitere Mitarbeiter in den kommenden Wochen und Monaten an. Generalstaatsanwältin Letitia James erklärte, ihr Büro werde das Gesetz durchsetzen.

Die Strafen können laut TechCrunch bis zu 1 Million Dollar für einen ersten und 3 Millionen Dollar für weitere Verstöße betragen. CIO Dive präzisiert, dass dies Entwickler betrifft, die verlangte Berichte nicht einreichen oder falsche Angaben machen. Der Staat kann auch gegen Unternehmen vorgehen, die sich nicht im neuen Portal registrieren, doch ein Sprecher nannte TechCrunch keine Einzelheiten; wie das in der Praxis aussähe, ist also noch unbekannt.

Neben dem Portal startete Hochul das New York Center for AI Responsibility and Research an der Binghamton University, die zur State University of New York gehört. Laut TechCrunch soll es Sicherheit, Schutz und Betrieb fortgeschrittener KI-Systeme unabhängig bewerten und mit DIGIT die Sicherheitsrahmen der Unternehmen prüfen. Die Gouverneurin hatte es im Januar angekündigt, mit 55 Millionen Dollar an Spenden und Kapital.

Wir bauen ein nationales Modell für kluge, vernünftige KI-Regulierung auf, ein Modell, das Gemeinschaften über Konzerne und Menschen über mächtige Technologie stellt.

Ein Flickenteppich einzelstaatlicher Regeln und ein Streit mit dem Bund

New York steht nicht allein. TechCrunch erinnert daran, dass auch Kaliforniens SB 53, seit Januar in Kraft, Frontier-Labore verpflichtet, Sicherheitsrahmen zu führen und zu veröffentlichen sowie Schutz für Hinweisgeber einzurichten, mit Meldung kritischer Vorfälle binnen 15 Tagen. Illinois' SB 315, die Anfang 2027 beginnt, enthält ähnliche Anforderungen und ergänzt unabhängige Audits zur Einhaltung der Sicherheitsvorgaben. New York hat weitere Texte zur KI-Sicherheit: ein bereits angewandtes Gesetz zu Begleiter-Chatbots und ein im Oktober unterzeichnetes Chatbot-Gesetz für Minderjährige, das am 1. Juni 2027 in Kraft tritt.

Der bundespolitische Hintergrund ist angespannt. CIO Dive berichtete im Dezember 2025, der RAISE Act sei das erste einzelstaatliche KI-Gesetz nach der Executive Order von Präsident Donald Trump, die eine Arbeitsgruppe (AI Litigation Task Force) zur Anfechtung von Landesgesetzen schafft. Es sei offen, welche Staaten sie zuerst ins Visier nehme, genannt wurde Colorado. Die von uns gelesenen Quellen sagen nicht, ob das New Yorker Gesetz angefochten wird oder werden soll. Das Büro der Gouverneurin behauptet seinerseits, die Bundesregierung habe keine neuen Maßnahmen zur KI-Sicherheit ergriffen.

Was das für ein Unternehmen ändert

Der Text erfasst nur Entwickler oberhalb der Umsatzschwelle; ein gewöhnliches US-Unternehmen, das lediglich Modelle von OpenAI oder Anthropic nutzt, muss nichts einreichen. Die Wirkung dürfte eher indirekt sein. Verpflichtend veröffentlichte Sicherheitsrahmen und Vorfallmeldungen binnen 72 Stunden geben Einkäufern neues Material zur Hand, wenn sie einen KI-Anbieter bewerten. Das ist unsere Einschätzung, keine Aussage des Gesetzes.

Ein Unternehmen, das Agenten auf diesen Modellen aufbaut, kann seine Lieferanten schon jetzt fragen, wo ihr Rahmen veröffentlicht ist und wie Vorfälle kommuniziert werden. Firmen, die eigene große Modelle trainieren und sich der Schwelle nähern, sollten sofort prüfen, ob die Registrierungspflicht sie betrifft. Wie sich diese Kontrolle intern organisieren lässt, erklären wir in unserem Leitfaden zur Governance von KI-Agenten.