Singapore herziet waarborgen voor hoog‑risico agent‑AI

Op 7 oktober 2026 verklaarde de Singaporese regering dat zij de waarborgen rond hoog‑risico agent‑AI opnieuw zal bekijken, juist nu de onafhankelijkheid van systemen die als agent functioneren zonder directe menselijke supervisie toeneemt. Deze aankondiging kwam als reactie op de groeiende internationale bezorgdheid over de mogelijkheid van dergelijke systemen om beslissingen te nemen met verstrekkende gevolgen, met name wanneer ze worden ingezet in gevoelige sectoren zoals kritieke infrastructuur en overheidsdigitale systemen. Het ministerie benadrukte dat het doel is om het regelgevend kader te versterken voordat een daadwerkelijk incident plaatsvindt, en om duidelijke criteria vast te stellen voor de classificatie van toepassingen als hoog‑risico.

Wat is agent‑AI?

Agent‑AI verwijst naar systemen die zelfstandig acties kunnen ondernemen op basis van vooraf gedefinieerde doelstellingen, zonder de noodzaak van voortdurende menselijke sturing. Deze systemen leren van data en ontwikkelen hun eigen strategieën, waardoor ze efficiënter worden in het opsporen van kwetsbaarheden en bedreigingen binnen netwerken en kritieke infrastructuur. De onafhankelijkheid van dergelijke systemen brengt echter nieuwe risico’s met zich mee wanneer ze de grenzen van hun geprogrammeerde taken overschrijden of wanneer ze door onbevoegde partijen worden misbruikt. Om die reden worden bepaalde toepassingen geclassificeerd als "hoog‑risico" en vereisen ze nauwgezette monitoring.

Huidige risico‑evaluatie

Digitale Ontwikkeling en Informatie Minister Joséphine Tiew gaf in een parlementaire reactie aan dat de regering geen officieel bericht heeft ontvangen over een cyberaanval uitgevoerd door een niet‑toezichthoudende agent. Ze voegde toe dat het ontbreken van feitelijke incidenten niet betekent dat de risico’s afwezig zijn, maar juist een proactieve voorbereiding vereist. Tiew wees erop dat overheidsinstanties al AI gebruiken om kwetsbaarheden en bedreigingen in hun systemen te identificeren, maar dat er nog steeds behoefte is aan duidelijke meldingsmechanismen om een snelle respons te garanderen in het geval van een eventuele inbreuk.

Minister Tan Kiat Haur stelde van zijn kant dat de vandaag gepresenteerde risico’s een voortzetting zijn van uitdagingen die al jaren bestaan, en dat de regering experimenten uitvoert om interne capaciteiten te ontwikkelen en een beter begrip te krijgen van verantwoordelijke AI‑uitrol. Hij verduidelijkte dat de herziening van regelgevende kaders en incidentmeldingsprocedures een fundamentele stap is om het vertrouwen tussen de publieke en private sector te versterken, met een focus op het opbouwen van gespecialiseerde technische teams die het gedrag van slimme agenten kunnen monitoren en de impact op de nationale veiligheid kunnen beoordelen.

Voorbeelden van gebruiksrisico’s

Tijdens een parlementaire discussie werd een intern incident aangehaald waarbij een ambtenaar een door AI gegenereerde tekst gebruikte om meer dan 95 000 e‑mailadressen uit een overheidsdatabank te extraheren. Hoewel deze handeling niet leidde tot een lek van gevoelige informatie, toonde het wel de mogelijkheid van slimme tools om enorme hoeveelheden data onverwacht snel te verzamelen, wat de vraag oproept welke controles nodig zijn om soortig misbruik in de toekomst te voorkomen.

Er werd eveneens een vergelijkbaar Australisch incident genoemd, waarbij het gebruik van een niet‑toezichthoudend AI‑model resulteerde in de onthulling van gevoelige gegevens binnen een overheidssector. De bronnen gaven geen verdere details vrij, maar het voorbeeld illustreerde dat de risico’s niet beperkt blijven tot één geografisch gebied; ze kunnen zich voordoen in elke staat die soortgelijke technologieën inzet zonder strikte supervisiemechanismen.

Voorgestelde maatregelen en kader‑updates

De regering baseerde haar aanpak op de genoemde incidenten om een reeks waarborgen te definiëren die in het nieuwe regelgevend kader zullen worden geïntegreerd. De voorgestelde stappen omvatten onder meer het versterken van interne capaciteiten om het gedrag van slimme agenten te evalueren, het ontwikkelen van uniforme meldingsprotocollen die alle publieke en private entiteiten verplichten om onmiddellijk eventuele potentiële incidenten te rapporteren, en het opnemen van vereisten voor een risico‑evaluatie vóór de uitrol van elk hoog‑risico agent‑systeem, met periodieke herzieningen om de naleving van internationale normen te waarborgen.

• Het oprichten van een gespecialiseerde eenheid binnen het Ministerie van Digitale Ontwikkeling om het gedrag van agent‑systemen te monitoren.
• Het verplichten van periodieke rapportages over potentiële incidenten voor alle entiteiten die hoog‑risico AI‑modellen gebruiken.
• Het eisen dat AI‑modelleveranciers snelle meldingsmechanismen bieden wanneer onverwacht gedrag wordt gedetecteerd.
• Het uitvoeren van voorafgaande risico‑evaluaties voordat een agent‑systeem wordt ingezet in kritieke infrastructuur.

Tot slot benadrukte Digitale Ontwikkeling en Informatie Minister Joséphine Tiew dat de herziening van de waarborgen in het komende kwartaal zal worden afgerond, met een concept van de nieuwe regelgevende regels die vóór het einde van het jaar ter publieke raadpleging zal worden uitgebracht. Er zullen consultatiesessies worden georganiseerd met de private sector en de onderzoeksgemeenschap om ervoor te zorgen dat het kader volledig en effectief wordt toegepast. De regering onderstreept dat het doel niet is om innovatie te vertragen, maar om deze in een verantwoordelijke richting te sturen die zowel de cyberbeveiliging als de economische stabiliteit van het land waarborgt.