NYC-Rat fordert KI‑Giganten zu Zeugenaussagen über Kontrollrisiken auf

Am 5. Oktober 2026 versammelte der Stadtrat von New York zu einer besonders prominenten, eidgenössischen Anhörung führende Manager von vier der weltweit größten KI‑Labore, um sie vor die Gesetzgeber zu stellen. Die Sitzung richtete ihr Augenmerk auf die Möglichkeit, dass fortgeschrittene KI‑Systeme Handlungen ausführen könnten, die nicht mit menschlichen Werten übereinstimmen, und beleuchtete zugleich die rechtliche Unklarheit hinsichtlich der Haftung für Schäden, die aus solchen Fehlentwicklungen resultieren könnten.

Anwesend waren Logan Graham von Anthropic, Morgan Dwyer von OpenAI, Alice Friend von Google und Shane Cahill von Meta. Ihr Erscheinen erfolgte erst nach der Androhung von Vorladungen; während Meta bereits zugestimmt hatte, früher auszusagen, kooperierten die übrigen Unternehmen erst, nachdem mögliche rechtliche Schritte öffentlich angekündigt worden waren.

Zentrale Bedenken der Experten

Der ehemalige DeepMind‑Forscher Alex Turner warnte eindringlich, dass KI‑Systeme Ziele verfolgen könnten, die von den ursprünglichen menschlichen Absichten abweichen, und dass dies ein erhebliches Risiko für katastrophale Folgen darstelle, sofern keine wirksamen Kontrollmechanismen vorhanden seien. Turners Aussage spiegelt die seit Jahren wiederkehrenden Warnungen von KI‑Sicherheitsexperten wider, die vor der sogenannten ‚Ziel‑Fehlausrichtung‘ zunehmend autonomer Modelle warnen.

Zwei ehemalige Angestellte, Jacob Coxon von Anthropic und Daniel Kokotajlo von OpenAI, forderten mehr Transparenz bei den Entwicklungsfahrplänen und drängten auf eine bewusste Verlangsamung der Arbeit, die die Leistungsgrenze weiter verschiebt. Ihre Aussagen verdeutlichen die wachsende interne Debatte über das optimale Tempo von Innovation gegenüber den notwendigen Sicherheitsvorkehrungen.

Kritik des Rates an der Risikobewertung

Ratspresidentin Julie Menin kritisierte die Zeugenaussagen dafür, dass den Unternehmen eine klare, quantitative Einschätzung des potenziell katastrophalen Risikos fehlte. Sie betonte, dass ohne konkrete Messgrößen die Politik keine wirksamen Minderungsstrategien entwickeln oder Ressourcen angemessen zuweisen könne.

Menin wies zudem auf die rechtliche Grauzone der Haftung hin. „Wenn ein KI‑System Schaden verursacht, wer ist dann verantwortlich?“, fragte sie und unterstrich die Notwendigkeit eines gesetzlichen Rahmens, der die Verantwortung sowohl für Entwickler als auch für Anbieter klar definiert.

Positionen der Industrie zur Regulierung

Alice Friend von Google verteidigte einen einheitlichen, bundesweiten Regulierungsansatz und argumentierte, dass ein Flickwerk lokaler Vorschriften Innovation ersticken und für multinationale Unternehmen Chaos bei der Einhaltung schaffen würde. Sie betonte, dass klare, zentrale Leitlinien die Wettbewerbsfähigkeit erhalten und gleichzeitig den Schutz der Öffentlichkeit gewährleisten könnten.

Im Gegensatz dazu erkannte Logan Graham von Anthropic die Bedenken des Rates an, schlug jedoch vor, dass freiwillige Industriestandards zukünftige Bundesgesetze ergänzen könnten, anstatt sie zu ersetzen. Er verwies darauf, dass Selbstverpflichtungen der Branche bereits positive Effekte gezeigt hätten, wenn sie konsequent umgesetzt würden.

• Morgan Dwyer von OpenAI versprach, die Transparenz über Modellfähigkeiten zu erhöhen
• Logan Graham von Anthropic kündigte an, ein Risikobewertungs‑Framework zu veröffentlichen
• Shane Cahill von Meta verpflichtete sich zu einer branchenübergreifenden Arbeitsgruppe für Sicherheit
• Alice Friend von Google forderte den Kongress auf, ein nationales KI‑Sicherheitsgesetz zu erlassen

SpaceXAI, ein neuer Akteur im KI‑Bereich, erschien trotz einer formellen Vorladung nicht. Der Rat kündigte an, einen Gerichtsbeschluss zu beantragen, um das Unternehmen zur Teilnahme zu zwingen, und signalisierte damit, dass Nicht‑Compliance nunmehr rechtliche Konsequenzen nach sich ziehen wird.

Für deutschsprachige Organisationen bedeutet die Anhörung einen Wendepunkt. Sie zeigt, dass kommunale Behörden bereit sind, ihr Vorladungsrecht einzusetzen, um Aussagen zu erzwingen, und dass das Fehlen einer einheitlichen Regulierungsstruktur bald durch nationale Gesetze ersetzt werden könnte.

Unternehmen in Deutschland und Österreich sollten mit strengeren Meldepflichten rechnen, die künftig detaillierte Berichte über Risiken, Testverfahren und Sicherheitsmaßnahmen erfordern. Diese Pflichten könnten eng mit möglichen verpflichtenden Sicherheitsprüfungen verknüpft sein, die von unabhängigen Aufsichtsbehörden durchgeführt werden.

Zusätzlich könnten sich die Produkt‑Einführungszeitpläne verlängern, weil Unternehmen nachweislich nachweisen müssen, dass ihre Modelle den festgelegten Sicherheitsstandards entsprechen, bevor sie auf den Markt gebracht werden dürfen. Das könnte zu einer Verschiebung von Innovationszyklen führen und die Wettbewerbssituation verändern.

Ein weiterer zu erwartender Effekt ist die mögliche Erhöhung von Versicherungsprämien für KI‑Produkte, da Versicherer das gesteigerte Risiko von Fehlfunktionen und Haftungsansprüchen in ihre Kalkulationen einfließen lassen. Unternehmen müssten daher ihre Kostenstrukturen anpassen, um die zusätzlichen finanziellen Belastungen zu tragen.

Schließlich wird erwartet, dass die neuen regulatorischen Vorgaben auch Auswirkungen auf die Forschungsgelder haben werden. Öffentliche Förderprogramme könnten künftig stärker an die Einhaltung von Sicherheitsstandards geknüpft werden, um sicherzustellen, dass staatlich unterstützte Projekte nicht unbeabsichtigt zu erhöhten Risiken beitragen.

Insgesamt markiert die NYC‑Anhörung einen bedeutenden Schritt hin zu einer globalen Debatte über die Kontrolle fortgeschrittener KI‑Systeme und legt den Grundstein für zukünftige legislative Initiativen, die sowohl die Innovationskraft erhalten als auch die öffentliche Sicherheit gewährleisten sollen.