Comprendre
Gouvernance des agents IA
Gouverner des agents IA, c'est répondre à trois questions avant de leur donner la main : jusqu'où peuvent-ils aller seuls, combien peuvent-ils dépenser, et comment prouver ce qu'ils ont fait. Un agent qui agit engage l'entreprise. Sans ces réponses, l'autonomie n'est pas une capacité, c'est une exposition.
1. La frontière d'autonomie
Toutes les actions n'ont pas la même portée. Classer un document ne se rattrape pas comme un message envoyé à un client, et un message se rattrape mieux qu'un paiement. La règle utile consiste donc à ranger les actions selon leur réversibilité, puis à placer la validation humaine là où la marche arrière devient impossible.
Une garantie compte plus que les autres : l'accord doit être demandé avant l'action, jamais constaté après. Une notification qui signale ce qui vient de partir n'est pas une gouvernance, c'est un compte rendu. Le principe complémentaire est celui du moindre privilège : chaque agent ne reçoit que les outils exigés par sa mission, de sorte qu'une dérive reste bornée par ce qu'il n'a jamais eu le droit de toucher.
2. Le contrôle des budgets
Un agent qui raisonne consomme, et il consomme d'autant plus qu'il persévère. C'est la différence de nature avec un logiciel classique, dont le coût ne dépend pas de la difficulté de la tâche. Une boucle qui n'aboutit pas peut ainsi coûter davantage qu'un travail réussi.
Le contrôle efficace repose sur trois exigences. Le budget doit être attribué par agent et par période, faute de quoi un seul agent absorbe la ressource de tous. Il doit être vérifié avant l'appel, et non additionné après coup : constater un dépassement sur la facture ne l'empêche pas. Il doit enfin être opposable : atteindre le plafond arrête l'agent et alerte, au lieu de laisser filer.
Cette réservation préalable est la manière dont nullbot rend le dépassement impossible plutôt qu'improbable.
3. La traçabilité
Quand une action surprend, la question n'est pas seulement « que s'est-il passé », mais « pourquoi l'agent a-t-il jugé que c'était la bonne chose à faire ». Un journal utile conserve donc l'objectif poursuivi, les informations consultées, l'action retenue, son résultat, et l'identité de la personne qui a validé lorsqu'une validation était requise.
Cette trace sert trois usages qui n'ont rien de théorique : corriger une règle mal formulée plutôt que de blâmer l'agent ; répondre à un client ou à un auditeur qui demande sur quelle base une décision a été prise ; et distinguer, en cas d'incident, ce qui relève de l'instruction donnée de ce qui relève de l'exécution.
4. La maîtrise des données
Un agent lit pour décider. Il lit donc, potentiellement, ce que l'entreprise a de plus sensible : messages, contrats, fiches clients, éléments financiers. La question de gouvernance devient alors géographique autant que juridique : où ce contenu est-il traité, et qu'est-ce qui sort de l'entreprise ?
nullbot répond par l'architecture plutôt que par l'engagement : le logiciel s'installe et s'exécute sur vos machines, les données restent là où elles sont produites, et les accès aux modèles d'intelligence artificielle passent par vos propres clés. Notre page consacrée à la sécurité détaille ce fonctionnement, et l'accord de traitement des données en fixe le cadre contractuel.
5. Questions fréquentes
Comment empêcher un agent de dépasser son budget ?
En réservant la dépense avant l'appel au modèle, et non en la comptabilisant après. Le montant prévu est retenu sur l'enveloppe de l'agent ; si l'enveloppe est épuisée, l'appel n'a pas lieu et l'agent s'arrête en signalant la raison. Un compteur consulté après coup ne peut rien empêcher.
Quelles actions doivent exiger une validation humaine ?
Celles qu'on ne peut pas défaire, et celles qui engagent l'entreprise vis-à-vis d'un tiers : envoi à un client, engagement financier, suppression définitive, modification d'un contrat. Le critère pratique est la réversibilité, pas la difficulté technique.
Qui est responsable de ce que fait un agent ?
L'entreprise qui l'a déployé, comme elle l'est du travail de ses collaborateurs. C'est précisément pourquoi la frontière d'autonomie et la trace des décisions sont indispensables : elles permettent de démontrer ce qui a été autorisé, par qui, et sur quelle base.
Peut-on donner plus d'autonomie avec le temps ?
C'est la progression recommandée. On commence par exiger une validation large, on observe où elle est systématiquement accordée, et on relâche la contrainte sur ces cas précis. L'inverse — tout autoriser puis restreindre après incident — coûte beaucoup plus cher.
Pour aller plus loin
Lire ensuite : déployer des agents IA en entreprise, ou qu'est-ce qu'un système agentique.