Singapur überarbeitet Garantien für hochriskante agentische KI

Am 7. Oktober 2026 erklärte die singapurische Regierung, dass sie die regulatorischen Garantien für hochriskante agentische Künstliche Intelligenz (KI) einer umfassenden Überprüfung unterziehen werde. Diese Ankündigung erfolgte vor dem Hintergrund einer zunehmenden Autonomie von Systemen, die als Agenten ohne direkte menschliche Aufsicht agieren. Die Regierung betonte, dass bislang kein Cyberangriff von einem nicht überwachten Agenten gemeldet worden sei und dass die Überprüfung präventiv erfolgen solle, um potenzielle Risiken frühzeitig zu adressieren. Damit soll das regulatorische Umfeld gestärkt und das Vertrauen in digitale Infrastrukturen erhalten bleiben.

Was ist agentische KI?

Agentische Künstliche Intelligenz bezeichnet Systeme, die eigenständig Handlungen auf der Grundlage festgelegter Ziele ausführen können, ohne dass eine kontinuierliche menschliche Steuerung erforderlich ist. Solche Systeme lernen aus Daten, entwickeln eigene Strategien und können dadurch effizient Schwachstellen und Bedrohungen in Netzwerken sowie kritischer Infrastruktur identifizieren. Gleichzeitig birgt die zunehmende Unabhängigkeit dieser Agenten neue Risiken, insbesondere wenn sie über die ursprünglich programmierten Grenzen hinaus agieren oder von unbefugten Akteuren missbraucht werden. Aus diesem Grund werden bestimmte Anwendungsbereiche als „hochriskant“ eingestuft und unterliegen einer intensiven Überwachung.

Aktuelle Risikobewertung

Ministerin für digitale Entwicklung und Information, Josephine Tiu, erklärte in einer parlamentarischen Antwort, dass die Regierung bislang keinen offiziellen Bericht über einen Cyberangriff erhalten habe, der von einem nicht überwachten Agenten ausgeführt wurde. Sie betonte jedoch, dass das Fehlen konkreter Vorfälle nicht gleichbedeutend sei mit dem Nichtvorhandensein von Risiken, sondern vielmehr proaktives Handeln erfordere. Sie wies darauf hin, dass Regierungsbehörden bereits KI einsetzen, um Schwachstellen und Bedrohungen in ihren Systemen zu identifizieren, und dass klare Meldeverfahren notwendig seien, um im Falle eines möglichen Verstoßes schnell reagieren zu können.

Minister Tan Kiatt Hoo ergänzte, dass die heute diskutierten Risiken eine Weiterentwicklung bereits seit Jahren bestehender Herausforderungen darstellen. Er erläuterte, dass die Regierung Experimente durchführe, um interne Fähigkeiten zu stärken und ein besseres Verständnis für den verantwortungsvollen Einsatz von KI zu erlangen. Er hob hervor, dass die Überarbeitung von Regulierungs- und Meldeframeworks ein zentraler Schritt sei, um das Vertrauen zwischen öffentlichem und privatem Sektor zu festigen. Dabei lege man besonderen Wert auf den Aufbau spezialisierter technischer Teams, die das Verhalten intelligenter Agenten überwachen und deren Auswirkungen auf die nationale Sicherheit bewerten können.

Beispiele für Nutzungsrisiken

Während einer parlamentarischen Debatte wurde auf einen internen Vorfall hingewiesen, bei dem ein Mitarbeiter einen von KI generierten Text nutzte, um mehr als 95 000 E‑Mail‑Adressen aus einer Regierungsdatenbank zu extrahieren. Obwohl dieser Vorgang keine sensiblen Informationen preisgab, verdeutlichte er die Fähigkeit intelligenter Werkzeuge, große Datenmengen in kurzer Zeit zu verarbeiten und zu extrahieren. Der Vorfall wirft die Frage auf, welche Kontrollen erforderlich seien, um einen ähnlichen Missbrauch in Zukunft zu verhindern, und betont die Notwendigkeit klarer Richtlinien für den Einsatz solcher Technologien.

Ein vergleichbarer Vorfall aus Australien wurde ebenfalls erwähnt, bei dem der Einsatz eines nicht überwachten KI‑Modells zur Offenlegung sensibler Informationen in einem Regierungssektor führte. Obwohl die Quellen keine weiteren Details preisgaben, zeigte das Beispiel, dass die Risiken nicht auf ein einzelnes geografisches Gebiet beschränkt sind, sondern in jeder Nation auftreten können, die ähnliche Technologien ohne strenge Aufsichtsmechanismen einsetzt.

Vorgeschlagene Maßnahmen und Aktualisierung des Rahmens

Die Regierung stützte sich auf die genannten Vorfälle, um ein Paket von Garantien zu formulieren, das in den neuen regulatorischen Rahmen integriert werden soll. Zu den vorgeschlagenen Maßnahmen gehören die Stärkung interner Fähigkeiten zur Bewertung des Verhaltens von intelligenten Agenten, die Entwicklung einheitlicher Meldeprotokolle, die alle öffentlichen und privaten Akteure verpflichten, potenzielle Vorfälle unverzüglich zu melden. Der Rahmen wird zudem Anforderungen für die Risikobewertung vor dem Einsatz eines hochriskanten Agentensystems enthalten und regelmäßige Überprüfungen vorsehen, um die Übereinstimmung mit internationalen Standards sicherzustellen.

• Einrichtung einer spezialisierten Einheit im Ministerium für digitale Entwicklung zur Überwachung des Verhaltens agentischer Systeme.
• Verpflichtung aller Behörden und Unternehmen, die hochriskante KI‑Modelle einsetzen, zu regelmäßigen Berichten über potenzielle Vorfälle.
• Auflage für KI‑Anbieter, schnelle Meldemechanismen bereitzustellen, wenn unerwartetes Verhalten ihrer Modelle festgestellt wird.
• Durchführung von Vorab‑Risikoanalysen, bevor ein Agentensystem in kritische Infrastrukturen integriert wird.

Abschließend betonte Ministerin Josephine Tiu, dass die Überarbeitung der Garantien im kommenden Quartal abgeschlossen sein werde, wobei ein Entwurf der regulatorischen Regeln zur öffentlichen Konsultation noch vor Jahresende veröffentlicht werde. Es seien Konsultationssitzungen mit dem privaten Sektor und der Forschungsgemeinschaft geplant, um sicherzustellen, dass der Rahmen umfassend und wirksam implementiert werden kann. Die Regierung versichere, dass das Ziel nicht darin bestünde, Innovation zu bremsen, sondern sie in eine verantwortungsvolle Richtung zu lenken, die sowohl die Cybersicherheit als auch die wirtschaftliche Stabilität des Landes gewährleiste.