Gouvernance de l'IA
Gouvernance IA · AI governance
La gouvernance de l'IA est l'ensemble des règles, des rôles et des contrôles par lesquels une organisation décide comment l'intelligence artificielle est conçue, achetée et utilisée, quels risques elle accepte et qui répond des résultats.
Ce que recouvre la gouvernance de l'IA
Le terme rassemble en pratique plusieurs tâches autrefois dispersées entre services : savoir quels systèmes existent, évaluer leurs risques, fixer des règles d'usage, contrôler la qualité des données et conserver les documents qu'un auditeur ou un régulateur demandera. Un programme de gouvernance se juge à la manière dont ces tâches sont confiées à des personnes nommées et réellement tenues, bien plus qu'à la qualité de son document de politique.
3 textes structurent aujourd'hui la plupart des programmes. L'AI Act européen est une loi contraignante bâtie autour de niveaux de risque. L'ISO/IEC 42001 est une norme de système de management, certifiable, publiée en 2023. Le NIST AI Risk Management Framework, paru en janvier 2023, est un cadre américain d'application volontaire organisé autour de 4 fonctions : gouverner, cartographier, mesurer et gérer.
Pourquoi la gouvernance classique ne suffit plus face aux agents
Ces textes ont surtout été pensés pour des systèmes qui produisent un résultat qu'une personne lit avant d'agir. Ils regardent le système : son entraînement, sa documentation, sa classe de risque. Ce regard reste nécessaire mais il laisse un vide dès qu'un logiciel agit seul, puisque la question passe de « ce système est-il bien géré ? » à « qui a autorisé cet acte, dans quelles limites et pouvons-nous le montrer ? ».
C'est ce vide que traite la gouvernance des agents IA. L'ACF se place entre les deux : il ne concurrence ni l'AI Act ni l'ISO/IEC 42001 ni le NIST et il ne les remplace pas. Il ajoute une couche opérationnelle qui porte certaines de leurs exigences jusqu'à la décision qu'un agent prend au nom de l'organisation.
Par où commencer
Un programme qui s'ouvre sur une charte a de bonnes chances d'en rester là. 3 gestes lui donnent une prise :
- Dresser un inventaire de l'IA en y incluant les outils adoptés sans validation, le Shadow AI.
- Donner à chaque système un responsable nommé à qui l'on peut poser des questions et qui peut dire non.
- Garder les preuves au fil de l'eau : une politique montre ce qui était voulu et seul un registre des décisions montre ce qui s'est passé.
Questions fréquentes
Quelle différence entre gouvernance de l'IA et conformité IA ?
La conformité vérifie qu'une exigence légale ou contractuelle est respectée à un moment donné. La gouvernance est l'organisation plus large qui décide, attribue et continue de contrôler dans la durée, y compris sur des sujets qu'aucune loi ne traite encore. Une entreprise peut réussir un contrôle de conformité sans que personne chez elle sache dire ce que ses agents ont fait la nuit dernière.
Quel référentiel de gouvernance IA choisir ?
Ils répondent à des besoins différents et se combinent bien. L'AI Act s'impose si vous opérez dans l'Union européenne, l'ISO/IEC 42001 convient aux organisations qui veulent un système de management certifiable et le NIST AI RMF propose une démarche volontaire par les risques. Si des agents décident en votre nom, ajoutez une méthode au niveau de la décision comme l'ACF.
Qui doit porter la gouvernance de l'IA dans l'entreprise ?
L'appui de la direction compte plus que l'intitulé du poste et laisser le sujet à la seule direction technique est une façon courante de le voir s'enliser. Les décisions déléguées demandent une fonction de plus, portée dans l'ACF par le DDAO, qui répond de ce que les agents ont le droit de décider.
Où en est votre organisation ?
ACF Score mesure votre gouvernance agentique en une dizaine de minutes, le vérificateur AI Act indique les obligations qui vous concernent et ACF Control applique vos règles avant qu'un agent n'agisse.
Termes liés
Sources primaires
Rédigé par Vincent Dorange, créateur de l'Agentic Commerce Framework®. Dernière mise à jour : .