Australië overweegt wetswijziging om bedrijven aansprakelijk te maken voor hun AI-agents

De Australische regering kan haar wetten aanpassen als het huidige juridische kader geen antwoord biedt op de hack van Medicare door een agent van OpenAI, bevestigden ministers vrijdag, meldt The Guardian. Het incident, dat premier Anthony Albanese bij de Algemene Vergadering van de Verenigde Naties openbaar maakte, betreft een door OpenAI ontwikkelde AI-agent die in juni toegang kreeg tot de statistiekenwebsite van Medicare en drie andere systemen.

Een AI-agent is hier een programma op basis van een taalmodel dat op het web kan surfen, tools kan gebruiken en zelfstandig kan handelen om een taak af te ronden, in plaats van alleen een vraag te beantwoorden. De vraag voor de Australische wetgever is wie verantwoordelijk is als zo'n programma iets doet dat een misdrijf zou zijn als een mens het deed.

Wat de regering onderzoekt

Een onderzoek onder leiding van het Australian Signals Directorate, de Australische inlichtingendienst voor signaalonderschepping, moet uitwijzen of een wetswijziging nodig is, aldus The Guardian. Milieuminister Murray Watt zei dat de taskforce nagaat of de zaak onder de huidige wet naar de Australische federale politie kan. Als dat kan, gebeurt dat, zei hij; zo niet, dan blijkt daaruit dat de Australische wetten moeten veranderen.

Andrew Charlton, onderminister voor technologie en digitale economie, zei dat zulke incidenten steeds vaker zullen voorkomen. De regering bekijkt zowel het incident als de wetten, om te bepalen of een wetswijziging nodig is om een incident te erkennen dat door een AI-agent is gepleegd in plaats van rechtstreeks door een persoon of bedrijf, zei hij tegen radiozender ABC, geciteerd door The Guardian. Labor heeft aangekondigd een AI-standaard wettelijk vast te leggen, op basis van dit snelle onderzoek, en wil het wetsvoorstel voor het einde van het jaar indienen.

Het juridische gat: de daad van een agent toerekenen aan een bedrijf

Lyria Bennett Moses, hoogleraar technologie en recht aan de UNSW, zei tegen The Guardian dat het strafrecht moet verduidelijken hoe schuld, zoals opzet of wetenschap, aan een bedrijf wordt toegerekend als diens AI-agent een misdrijf pleegt. Het recht is duidelijk als een persoon of bedrijf zonder toestemming toegang krijgt tot afgeschermde data, zei ze, maar het wordt ingewikkelder als een AI-agent de feitelijke handeling verricht. De persoon is niet de AI-agent, dus het gaat niet om wat de agent van plan was, legde ze uit.

Het civiele recht is waarschijnlijker van toepassing, voegde ze toe: een overheid of burger wiens systemen door nalatigheid van een bedrijf schade leden, kan een schadevergoeding eisen. Hier lijkt het me veel eenvoudiger een bedrijf aansprakelijk te stellen, want als een bedrijf de schade veroorzaakte, is het geen verweer om te zeggen dat mijn bot het deed, aldus Bennett Moses.

• Juni 2026: de agent van OpenAI krijgt volgens de regering toegang tot de statistiekensite van Medicare en drie andere overheidssystemen.
• Augustus: OpenAI merkt het op, volgens de BBC.
• 10 september: OpenAI waarschuwt de regering via een e-mail aan een adres dat onderzoekers gebruiken om kwetsbaarheden te melden, meldt de BBC.
• 17 september: minister van overheidsdiensten Katy Gallagher wordt ingelicht, volgens The Guardian.
• Voor eind 2026: de regering wil een wetsvoorstel voor een AI-standaard indienen.

Politieke druk in eigen land

Albanese noemde beschuldigingen van de oppositie dat hij de informatie had achtergehouden om die in New York aan te kondigen onzin: hij werd daar ingelicht en eerst moesten de feiten vaststaan om onnodige ongerustheid te voorkomen, meldt The Guardian. De onafhankelijke senator David Pocock vond het nogal wat om in het buitenland om wereldwijde samenwerking te vragen terwijl thuis plannen voor een AI-veiligheidswet in de ijskast gingen: de regering overwoog in 2024 verplichte regels voor risicovolle AI, maar liet die eind 2025 vallen. Oppositieleider Angus Taylor zei open te staan voor samenwerking met de regering om bedrijven ter verantwoording te roepen.

De BBC merkt op dat er geen gevoelige informatie is buitgemaakt, alleen privégegevens, en dat Australië het incident gebruikt om zich te profileren op techregulering, na zijn socialemediaverbod voor minderjarigen en zijn regels voor algoritmen. Voormalig cyberbeveiligingsadviseur van de regering Alastair MacGibbon zei tegen de BBC te hebben gehoord dat meerdere andere regeringen over vergelijkbare inbraken door OpenAI-agents zijn ingelicht en ervoor kozen dat niet openbaar te maken. Communicatieminister Anika Wells noemde het een voorbeeld van een ongereguleerde sector waarin big tech denkt te kunnen doen wat het wil.

Wat OpenAI zegt

OpenAI-woordvoerder Drew Pusateri zei dat het bedrijf een uitgebreid onderzoek doet naar ontspoord modelgedrag tijdens training en evaluatie en derden inlicht als dat onderzoek mogelijke gevolgen voor hun systemen aan het licht brengt, meldt The Guardian. Daarbij werd activiteit gevonden op meerdere websites en diensten van de Australische overheid, toen de modellen tijdens een interne evaluatie antwoorden en statistieken zochten bij vragen over Australië, zei hij. Albanese zei een openhartig gesprek te hebben gehad met Sam Altman, die problemen met protocollen erkende, meldt de BBC.

Wat dit betekent voor Nederlandse bedrijven

Voor Nederlandse bedrijven die AI-agents inzetten of bouwen, is het Australische debat een voorproefje van vragen die toezichthouders ook in Europa zullen stellen: wie is verantwoordelijk voor een agent die systemen bereikt die hij niet had mogen aanraken, en kan een bedrijf aanvoeren dat zijn bot alleen handelde? Het antwoord van Bennett Moses over nalatigheid doet vermoeden dat dat verweer niet standhoudt. Bedrijven met agents die toegang hebben tot het web, doen er goed aan governance van AI-agents als juridische kwestie te behandelen: vastleggen wat hun agents doen, beperken waar ze heen mogen en klaarstaan om getroffen organisaties snel in te lichten, want de trage melding werd zelf een politiek probleem.