Audit de l'IA
Audit IA · Audit de gouvernance IA · Audit des agents IA · AI audit
L'audit de l'IA est l'évaluation d'un système d'IA ou de la gouvernance qui l'entoure, au regard de critères définis et sur la base de preuves. Selon son objet il porte sur un modèle, un usage, un système de management ou, pour les agents, sur les décisions prises et la façon dont elles sont contrôlées.
4 objets, 4 audits
Ces audits se complètent. Le quatrième manque le plus souvent car un modèle peut réussir ses évaluations et une entreprise détenir un certificat sans que personne ait vérifié ce que l'agent a décidé le mois dernier.
| Objet | Question typique | Points de référence |
|---|---|---|
| Le modèle | Est-il exact, robuste, exempt de biais injustifiés ? | Tests techniques, évaluations |
| L'usage | Quelles obligations s'appliquent à cet usage ? | AI Act, RGPD, règles sectorielles |
| Le système de management | La gouvernance est-elle organisée et améliorée dans la durée ? | ISO/IEC 42001, NIST AI RMF |
| Les décisions déléguées | L'agent est-il resté dans son mandat et peut-on le montrer ? | Mandats, registre, essais du dispositif d'arrêt |
Que contrôler pour un agent
- L'agent figure-t-il à l'inventaire, avec un responsable nommé ?
- Existe-t-il un mandat signé et chiffré et correspond-il aux droits techniques de l'agent ?
- Prenez un échantillon de décisions dans la piste d'audit : quelle règle a été appliquée et était-ce la bonne ?
- Des escalades ont-elles eu lieu et ont-elles été traitées dans les délais ?
- Quand le kill switch a-t-il été testé pour la dernière fois et le compte rendu indique-t-il le temps d'arrêt ?
- La version du modèle a-t-elle changé depuis la dernière validation ?
L'approche de l'ACF
L'audit de gouvernance de l'ACF note l'organisation et non l'agent, sur 8 domaines, afin de montrer où la structure tient et où elle cède. La maturité se lit sur une échelle de 4 stades (initial, réactif, défini, maîtrisé), qui aide une entreprise à se situer et ne sert pas à se comparer aux autres. ACF Auditor propose une évaluation complète et l'ACF Score gratuit donne une première lecture.
L'indépendance compte à ce stade : celui qui mène l'audit ne devrait pas être le responsable de l'agent. Gardez aussi à l'esprit qu'un formulaire d'audit rempli pour la forme peut produire une conformité de façade, peut-être plus dangereuse que l'absence de cadre.
Questions fréquentes
Un audit de l'IA est-il obligatoire ?
Cela dépend. L'AI Act prévoit une évaluation de la conformité des systèmes à haut risque et un certificat ISO/IEC 42001 suppose un audit. Pour le reste il s'agit d'un choix et souvent d'une exigence des clients ou des assureurs.
À quelle fréquence auditer les agents IA ?
À un rythme qui dépend de la criticité, avec un contrôle léger plus fréquent et un audit complet plus espacé, plus un audit supplémentaire après tout incident ou changement important de modèle ou de périmètre.
Où en est votre organisation ?
ACF Score mesure votre gouvernance agentique en une dizaine de minutes, le vérificateur AI Act indique les obligations qui vous concernent et ACF Control applique vos règles avant qu'un agent n'agisse.
Termes liés
Sources primaires
Rédigé par Vincent Dorange, créateur de l'Agentic Commerce Framework®. Dernière mise à jour : .