Begrijpen
Governance van AI-agenten
AI-agenten besturen betekent drie vragen beantwoorden voordat u ze het stuur geeft: hoe ver mogen ze alleen gaan, hoeveel mogen ze uitgeven, en hoe valt aan te tonen wat ze hebben gedaan. Een agent die handelt, bindt het bedrijf. Zonder die antwoorden is autonomie geen vermogen maar een blootstelling.
1. De autonomiegrens
Niet alle handelingen wegen even zwaar. Een document opbergen wordt anders teruggedraaid dan een aan een klant verzonden bericht, en een bericht makkelijker dan een betaling. De bruikbare regel is dan ook de handelingen te ordenen naar hun omkeerbaarheid, en de menselijke goedkeuring te plaatsen waar de weg terug onmogelijk wordt.
Eén waarborg weegt zwaarder dan de andere: de instemming moet vóór de handeling worden gevraagd, nooit achteraf worden vastgesteld. Een melding over wat zojuist is uitgegaan is geen governance maar een verslag. Het aanvullende beginsel is dat van de minste rechten: elke agent krijgt uitsluitend de gereedschappen die zijn opdracht vergt, zodat elke afdwaling begrensd blijft door wat hij nooit mocht aanraken.
2. De budgetbeheersing
Een agent die redeneert, verbruikt — en hij verbruikt meer naarmate hij langer volhoudt. Daarin ligt het wezenlijke verschil met klassieke software, waarvan de kosten niet afhangen van de moeilijkheid van de taak. Een lus die nergens toe leidt, kan zo meer kosten dan geslaagd werk.
Doeltreffende beheersing rust op drie eisen. Het budget moet per agent en per periode zijn toegewezen, anders slokt één agent de middelen van allen op. Het moet vóór de aanroep worden gecontroleerd en niet achteraf opgeteld: een overschrijding op de factuur vaststellen voorkomt haar niet. En het moet afdwingbaar zijn: bij het bereiken van het plafond stopt de agent en slaat alarm, in plaats van door te lopen.
Die voorafgaande reservering is de manier waarop nullbot een overschrijding onmogelijk maakt in plaats van slechts onwaarschijnlijk.
3. De traceerbaarheid
Wanneer een handeling verrast, luidt de vraag niet alleen „wat is er gebeurd”, maar „waarom oordeelde de agent dat dit juist was”. Een bruikbaar logboek bewaart dan ook het nagestreefde doel, de geraadpleegde informatie, de gekozen handeling, het resultaat ervan, en de identiteit van de persoon die goedkeurde toen goedkeuring vereist was.
Dat spoor dient drie doelen die allesbehalve theoretisch zijn: een slecht geformuleerde regel corrigeren in plaats van de agent de schuld te geven; een klant of een auditor antwoorden die vraagt op welke grond een beslissing is genomen; en na een incident onderscheiden wat aan de gegeven instructie ligt en wat aan de uitvoering.
4. De zeggenschap over de gegevens
Een agent leest om te beslissen. Hij leest dus mogelijk het gevoeligste wat het bedrijf bezit: berichten, contracten, klantdossiers, financiële gegevens. De governancevraag wordt daarmee even geografisch als juridisch: waar wordt die inhoud verwerkt, en wat verlaat het bedrijf?
nullbot antwoordt met architectuur in plaats van met beloften: de software wordt op uw machines geïnstalleerd en uitgevoerd, de gegevens blijven waar ze ontstaan, en de toegang tot de modellen voor kunstmatige intelligentie verloopt via uw eigen sleutels. Onze pagina over beveiliging beschrijft dit in detail, en de verwerkersovereenkomst legt het contractuele kader vast.
5. Veelgestelde vragen
Hoe voorkom je dat een agent zijn budget overschrijdt?
Door de uitgave te reserveren vóór de aanroep van het model, en haar niet achteraf te boeken. Het verwachte bedrag wordt op het tegoed van de agent ingehouden; is het tegoed op, dan vindt de aanroep niet plaats en stopt de agent met vermelding van de reden. Een achteraf geraadpleegde teller kan niets voorkomen.
Welke handelingen moeten een menselijke goedkeuring vergen?
Die welke niet ongedaan te maken zijn, en die welke het bedrijf tegenover een derde binden: verzending naar een klant, financiële verbintenis, definitieve verwijdering, wijziging van een contract. De praktische maatstaf is de omkeerbaarheid, niet de technische moeilijkheid.
Wie is verantwoordelijk voor wat een agent doet?
Het bedrijf dat hem heeft ingezet, net zoals het instaat voor het werk van zijn medewerkers. Juist daarom zijn de autonomiegrens en het spoor van de beslissingen onmisbaar: ze maken aantoonbaar wat is toegestaan, door wie, en op welke grond.
Kan de autonomie na verloop van tijd worden verruimd?
Dat is de aanbevolen weg. Men begint met een brede goedkeuringsplicht, kijkt waar die telkens wordt verleend, en versoepelt de eis juist daar. Het omgekeerde — alles toestaan en na een incident inperken — kost veel meer.
Verder lezen
Lees verder: AI-agenten in het bedrijf inzetten, of wat is een agentisch systeem.