Glossaire de la gouvernance IA

Le vocabulaire de la gouvernance de l'IA se fixe vite et le même mot recouvre souvent deux idées différentes. Ce glossaire définit 25 termes tels que les emploie l'Agentic Commerce Framework® (ACF®), sépare les notions qu'on confond le plus et renvoie au texte d'origine dès qu'une loi ou une norme entre en jeu.

Les fondations

Gouvernance de l'IALes règles, les rôles et les contrôles qui décident comment une organisation conçoit, achète et utilise l'IA et qui répond des résultats.Gouvernance des agents IALa discipline qui fixe ce qu'un agent IA peut décider ou faire seul, qui en répond, comment l'arrêter et comment prouver ce qu'il a fait.Souveraineté agentiqueLa capacité de confier des décisions à des agents sans cesser d'en être responsable et de reprendre la main sur chacune d'elles.AI Act et agents IALe règlement européen sur l'IA ne nomme pas les agents mais ses règles sur le haut risque, la supervision et les journaux s'appliquent à ceux qui en relèvent.

Autorité et délégation

Autorité de décision d'un agent IALe périmètre des décisions qu'un agent IA a le droit de prendre seul, fixé par l'organisation et borné par des limites écrites à l'avance.Autorité déléguéeUn pouvoir de décider confié à un tiers, ici un agent IA, tout en gardant la responsabilité et le droit de le reprendre.Délégation à un agent IAL'acte de confier une tâche ou une décision à un agent IA, ou d'un agent à un autre, dans un périmètre défini à l'avance.Autorisation et autorité d'un agent IAL'autorisation est ce qu'un agent peut techniquement atteindre et l'autorité ce qu'il a le droit de décider. Il faut les 2 et elles divergent souvent.Révocation de l'autorité d'un agent IALe retrait du pouvoir de décision accordé à un agent, temporaire ou définitif, avec coupure des droits techniques et trace de l'événement.Mandat d'un agent IALe document écrit qui met des chiffres sur ce qu'un agent peut faire, ce qu'il doit refuser et qui en répond.Décisions non délégablesLes décisions qu'une organisation garde entre des mains humaines quel que soit leur score car elles engagent sa réputation, sa responsabilité ou sa survie.Classification des décisions des agents IAUn classement prêt à l'emploi des décisions de l'entreprise en 3 zones : l'agent agit seul, l'agent prépare et un humain valide, ou la décision reste humaine.Criticité d'une décisionUne note qui croise l'impact, la fréquence et l'irréversibilité d'une décision et qui borne jusqu'où on peut la déléguer à un agent.

Supervision et contrôle

Supervision humaine de l'IALa capacité de personnes compétentes à surveiller un système d'IA, le comprendre, passer outre et l'arrêter, exigée pour le haut risque par l'article 14 de l'AI Act.Humain dans la boucleUn dispositif où une personne doit approuver l'acte d'un système d'IA avant qu'il ne produise ses effets : utile pour les actes graves, intenable à fort volume.Kill switch d'un agent IAUn dispositif qui interrompt un agent IA à plusieurs niveaux de gravité, confié à une personne nommée, indépendant de l'agent et testé régulièrement.DDAO (Delegated Decision Agent Officer)La fonction créée par l'ACF qui répond des décisions qu'une organisation délègue à des agents IA et qui peut refuser un déploiement.Responsable d'un agent IALa personne nommée qui veut un agent, le déploie et répond de sa finalité et de son entretien ; sans elle, l'agent n'est pas gouverné.

Identité et inventaire

Identité d'un agent IALe moyen de reconnaître quel agent agit, pour le compte de qui, dans quelle version et sous quel mandat.Know Your Agent (KYA)Des pratiques pour vérifier qui se trouve derrière un agent IA et ce qu'il a le droit de faire avant de traiter avec lui, par analogie avec le Know Your Customer.Inventaire de l'IALa liste tenue à jour des systèmes d'IA et des agents qu'une organisation utilise, avec leur finalité, leurs données, leur responsable et leur niveau de risque.Shadow AILes outils et les agents d'IA adoptés dans une organisation hors de tout cadre et de toute supervision donc invisibles pour sa gouvernance.

Preuve et audit

Piste d'audit de l'IALa trace conservée et vérifiable des décisions prises par un système ou un agent d'IA : ce qui a été décidé, par qui et selon quelle règle.Preuve de gouvernanceLa capacité à montrer ce qui a été décidé, par qui, selon quelles règles et à quel moment, à partir de 5 pièces et non de documents de politique.Audit de l'IAL'évaluation d'un système d'IA ou de la gouvernance qui l'entoure, au regard de critères définis et sur la base de preuves.