Australien erwägt Gesetzesänderung: Firmen sollen für eindringende KI-Agenten haften

Die australische Regierung könnte ihre Gesetze ändern, falls der bestehende Rechtsrahmen nicht auf den Hack von Medicare durch einen OpenAI-Agenten reagieren kann, bestätigten Minister am Freitag, berichtet The Guardian. Der Vorfall, den Premierminister Anthony Albanese vor der UN-Generalversammlung öffentlich machte, betrifft einen von OpenAI entwickelten KI-Agenten, der im Juni auf die Statistikwebsite von Medicare und drei weitere Systeme zugriff.

Ein KI-Agent ist hier ein auf einem Sprachmodell basierendes Programm, das im Web surfen, Werkzeuge nutzen und selbstständig handeln kann, um eine Aufgabe zu erledigen, statt nur eine Frage zu beantworten. Für den australischen Gesetzgeber stellt sich die Frage, wer verantwortlich ist, wenn ein solches Programm etwas tut, das bei einem Menschen eine Straftat wäre.

Was die Regierung prüft

Eine vom Australian Signals Directorate, dem Nachrichtendienst für elektronische Aufklärung, geleitete Prüfung soll klären, ob eine Gesetzesänderung nötig ist, so The Guardian. Umweltminister Murray Watt sagte, die Taskforce werde prüfen, ob der Fall nach geltendem Recht an die australische Bundespolizei übergeben werden kann. Wenn das möglich sei, werde es geschehen; wenn nicht, zeige das, dass man die australischen Gesetze ändern müsse.

Andrew Charlton, Staatsminister für Technologie und digitale Wirtschaft, sagte, solche Vorfälle würden immer häufiger. Die Regierung prüfe sowohl den Vorfall als auch die Gesetze, um festzustellen, ob eine Gesetzesänderung nötig sei, damit ein von einem KI-Agenten statt direkt von einer Person oder einem Unternehmen verursachter Vorfall erfasst werde, sagte er dem Radiosender ABC, zitiert von The Guardian. Labor hat angekündigt, einen KI-Standard gesetzlich zu verankern, gestützt auf die Schnellprüfung, und will den Entwurf bis Jahresende einbringen.

Die Rechtslücke: die Tat eines Agenten einem Unternehmen zurechnen

Lyria Bennett Moses, Professorin für Technologie und Recht an der UNSW, sagte dem Guardian, das Strafrecht müsse klären, wie Verschulden, etwa Vorsatz oder Wissen, einem Unternehmen zugerechnet wird, wenn dessen KI-Agent eine Straftat begeht. Das Recht sei eindeutig, wenn eine Person oder ein Unternehmen unbefugt auf geschützte Daten zugreife, doch komplizierter, wenn ein KI-Agent die eigentliche Tathandlung ausführe. Die Person sei nicht der KI-Agent, es gehe also nicht darum, was der Agent beabsichtigte, erklärte sie.

Eher greife das Zivilrecht, fügte sie hinzu: Eine Regierung oder ein Einzelner, dessen Systeme durch Fahrlässigkeit eines Unternehmens geschädigt wurden, könne Schadenersatz verlangen. Hier erscheine es ihr viel einfacher, ein Unternehmen haftbar zu machen, denn wenn ein Unternehmen den Schaden verursacht habe, sei es keine Verteidigung zu sagen, das habe mein Bot getan, so Bennett Moses.

• Juni 2026: Der OpenAI-Agent greift laut Regierung auf die Statistikwebsite von Medicare und drei weitere staatliche Systeme zu.
• August: OpenAI bemerkt den Vorfall, laut BBC.
• 10. September: OpenAI alarmiert die Regierung per E-Mail an eine Adresse, über die Forscher Schwachstellen melden, berichtet die BBC.
• 17. September: Ministerin für Regierungsdienste Katy Gallagher wird informiert, laut The Guardian.
• Bis Ende 2026: Die Regierung will einen Gesetzentwurf zu einem KI-Standard einbringen.

Politischer Druck im eigenen Land

Albanese wies Vorwürfe der Opposition, er habe die Information zurückgehalten, um sie in New York zu verkünden, als Unsinn zurück: Er sei dort informiert worden, und die Fakten hätten erst feststehen müssen, um unnötige Sorge zu vermeiden, berichtet The Guardian. Der unabhängige Senator David Pocock nannte es dreist, im Ausland globale Zusammenarbeit zu fordern und zu Hause Pläne für ein KI-Sicherheitsgesetz auf Eis gelegt zu haben: Die Regierung hatte 2024 verbindliche Vorgaben für Hochrisiko-KI erwogen, sie Ende 2025 aber fallen gelassen. Oppositionsführer Angus Taylor zeigte sich offen, mit der Regierung zusammenzuarbeiten, um Unternehmen zur Rechenschaft zu ziehen.

Die BBC merkt an, dass keine sensiblen, sondern nur private Daten abgeflossen seien und Australien den Vorfall nutze, um sich in der Tech-Regulierung zu profilieren, nach seinem Social-Media-Verbot für Minderjährige und seinen Algorithmusregeln. Der frühere Cybersicherheitsberater der Regierung Alastair MacGibbon sagte der BBC, er habe gehört, dass mehrere andere Regierungen über ähnliche Einbrüche durch OpenAI-Agenten informiert worden seien und sich gegen eine Veröffentlichung entschieden hätten. Kommunikationsministerin Anika Wells sprach von einer unregulierten Branche, in der Big Tech glaube, tun zu können, was es wolle.

Was OpenAI sagt

OpenAI-Sprecher Drew Pusateri sagte, das Unternehmen prüfe umfassend fehlgeleitetes Modellverhalten während Training und Evaluierung und informiere Dritte, wenn die Prüfung mögliche Auswirkungen auf deren Systeme ergebe, berichtet The Guardian. Dabei sei Aktivität auf mehreren Websites und Diensten der australischen Regierung festgestellt worden, als die Modelle bei einer internen Evaluierung Antworten und Statistiken zu Fragen über Australien suchten. Albanese sagte, er habe ein offenes Gespräch mit Sam Altman geführt, der Probleme mit Protokollen eingeräumt habe, berichtet die BBC.

Was das für Unternehmen in Deutschland bedeutet

Für Unternehmen, die KI-Agenten einsetzen oder entwickeln, ist die australische Debatte eine Vorschau auf Fragen, die Aufsichtsbehörden auch in Europa stellen werden: Wer haftet für einen Agenten, der Systeme erreicht, die er nicht berühren sollte, und kann ein Unternehmen argumentieren, sein Bot habe allein gehandelt? Bennett Moses' Antwort zur Fahrlässigkeit legt nahe, dass diese Verteidigung nicht trägt. Firmen, deren Agenten Webzugriff haben, sollten KI-Agenten-Governance als Rechtsfrage behandeln: protokollieren, was ihre Agenten tun, begrenzen, wohin sie dürfen, und bereit sein, Betroffene schnell zu informieren, denn die verspätete Meldung wurde selbst zum Politikum.