Gouvernance des agents IA

Gouvernance agentique · Gouvernance de l'IA agentique · AI agent governance

Définition

La gouvernance des agents IA est la discipline qui fixe ce qu'un agent peut décider ou faire seul, dans quelles limites, qui en répond, comment l'arrêter et comment prouver ensuite ce qu'il a fait. Elle gouverne des décisions déléguées là où la gouvernance classique de l'IA gouverne des systèmes.

Pourquoi les agents changent la question

Un modèle qui rédige un texte laisse une personne entre son résultat et le monde. Un agent dispose d'outils, d'une mémoire et d'une capacité à planifier : il peut rembourser un client, changer un prix ou supprimer un fichier sans que personne ne s'interpose. Il ressemble moins à un conseiller qu'à un mandataire et les bonnes questions sont celles qu'on poserait à un représentant : que peut-il signer, jusqu'à quel montant et qui paie s'il se trompe ?

Le terrain va dans le même sens. Dans un document de septembre 2026 fondé sur des entretiens avec 25 organisations, l'OCDE rapporte qu'aucune d'elles n'exploite d'agent à l'autonomie illimitée, que l'exécution autonome reste bornée à des périmètres définis avec un accord humain sur les actes à fort enjeu ou irréversibles et que traduire les principes en exigences concrètes d'ingénierie est la difficulté de gouvernance la plus souvent citée.

Les 5 questions auxquelles un agent gouverné sait répondre

  • Que peut-il décider ? Son autorité de décision est écrite dans un mandat, chiffres à l'appui.
  • Que ne doit-il jamais recevoir ? Les décisions non délégables sont listées avant tout calcul de score.
  • Qui répond ? Un humain nommé et jamais l'agent et dans l'ACF un DDAO qui peut refuser un déploiement.
  • Comment l'arrêter ? Par un kill switch qui ne dépend pas de l'agent, éprouvé et pas seulement décrit.
  • Que reste-t-il ensuite ? Une piste d'audit qu'un tiers peut vérifier.

Partir de la décision et non de l'agent

La méthode ACF renverse l'ordre habituel. Plutôt que de choisir un cas d'usage puis d'y ajouter des garde-fous, on liste les décisions qui structurent l'activité, on cote chacune d'elles et l'on regarde ensuite seulement si un agent y a sa place. 2 entreprises qui exploitent le même agent peuvent obtenir des comportements opposés puisque ce qui diffère, ce sont les règles qu'on lui donne.

Pour éviter la page blanche, l'ACF a classé 150 décisions courantes sur 8 fonctions de l'entreprise en 3 zones : l'agent agit seul, l'agent prépare et un humain valide, ou la décision reste humaine. Elles s'accompagnent de 100 garde-fous rangés par type d'agent.

Détecter n'est pas empêcher

Beaucoup d'outils documentent les agents ou rendent compte de leurs actes après coup. Les 2 sont utiles et aucun n'arrête un acte déjà en cours. La gouvernance devient effective lorsqu'un mécanisme applique les règles au moment où l'agent agit. Selon le volume, ce mécanisme peut être une procédure écrite avec un validateur nommé ou, dès que les décisions se comptent par milliers, un logiciel. ACF Control tient ce rôle : avant qu'un acte ne s'exécute, il l'autorise, l'ajuste, le bloque ou le fait remonter à une personne puis conserve la trace signée.

Ce que disent déjà les textes de référence

Singapour a publié en janvier 2026 un Model AI Governance Framework for Agentic AI. La version préliminaire du Cyber AI Profile du NIST pose qu'un humain se voit attribuer la responsabilité des actes d'un système d'IA. L'AI Act européen n'emploie jamais le mot « agent » dans son texte de 2024 mais ses règles sur la supervision humaine et la tenue des journaux s'appliquent aux agents qui relèvent d'un usage à haut risque.

Questions fréquentes

Quelle différence entre gouvernance IA et gouvernance des agents IA ?

La gouvernance de l'IA regarde le système : ses risques, ses données, sa documentation. La gouvernance des agents regarde la décision que le système prend en votre nom : qui l'a autorisée, dans quelles limites, qui répond et quelle preuve reste. La seconde ne remplace pas la première, elle la prolonge jusqu'au point où le logiciel agit.

Les petites entreprises ont-elles besoin de gouverner leurs agents ?

Oui, sous une forme allégée. Une personne peut porter le rôle de responsable à temps partiel et les règles écrites peuvent tenir sur une page. Le contrôle par logiciel peut attendre le moment où le volume de décisions fait de la validation humaine une formalité.

La gouvernance des agents ralentit-elle les déploiements ?

Elle déplace une partie de l'effort vers l'amont. Elle évite de découvrir trop tard que personne ne peut défendre une décision prise par l'agent et la prudence qu'elle demande est ce qui rend l'adoption défendable le jour d'un incident.

Existe-t-il une norme de gouvernance des agents IA ?

Aucun standard partagé n'a encore émergé : l'OCDE constate l'absence d'une norme commune d'évaluation des agents. Les organisations se réfèrent aux principes de l'OCDE, au NIST AI RMF, à l'ISO/IEC 42001 et à l'AI Act. L'ACF est une méthode proposée, ouverte et gratuite, qui travaille au niveau de la décision déléguée et n'offre aucune garantie de conformité juridique.

Où en est votre organisation ?

ACF Score mesure votre gouvernance agentique en une dizaine de minutes, le vérificateur AI Act indique les obligations qui vous concernent et ACF Control applique vos règles avant qu'un agent n'agisse.

Passer l'ACF ScoreVérificateur AI ActACF Control

Termes liés

Autorité de décision d'un agent IALe périmètre des décisions qu'un agent IA a le droit de prendre seul, fixé par l'organisation et borné par des limites écrites à l'avance.Mandat d'un agent IALe document écrit qui met des chiffres sur ce qu'un agent peut faire, ce qu'il doit refuser et qui en répond.Classification des décisions des agents IAUn classement prêt à l'emploi des décisions de l'entreprise en 3 zones : l'agent agit seul, l'agent prépare et un humain valide, ou la décision reste humaine.Kill switch d'un agent IAUn dispositif qui interrompt un agent IA à plusieurs niveaux de gravité, confié à une personne nommée, indépendant de l'agent et testé régulièrement.DDAO (Delegated Decision Agent Officer)La fonction créée par l'ACF qui répond des décisions qu'une organisation délègue à des agents IA et qui peut refuser un déploiement.

Voir les 25 termes du glossaire

Sources primaires

Rédigé par Vincent Dorange, créateur de l'Agentic Commerce Framework®. Dernière mise à jour : .