Piste d'audit de l'IA
Piste d'audit · Journal des décisions · Audit trail
La piste d'audit de l'IA est la trace conservée et vérifiable des décisions prises par un système ou un agent d'IA. Pour chaque décision elle indique ce qui a été proposé, la règle appliquée, l'issue retenue, la personne responsable et l'instant exact, de façon à pouvoir le montrer ensuite.
Des journaux techniques ne font pas une piste d'audit
Les journaux techniques décrivent ce qu'un système a fait, dans la langue du système : un appel, un horodatage, un code d'erreur. Une piste d'audit répond aux questions que posera un auditeur, un juge ou un assureur : qui a autorisé cela, selon quelle règle, qui était responsable ? Les journaux en sont souvent un ingrédient et suffisent rarement. Beaucoup d'incidents d'agents révèlent le même manque : la trace existe quelque part et ne peut pas être exploitée après coup.
Ce qu'exige l'AI Act
L'article 12 demande aux systèmes à haut risque de permettre l'enregistrement automatique des événements pendant toute leur durée de vie. Les articles 19 et 26, paragraphe 6, demandent aux fournisseurs et aux déployeurs de conserver les journaux qu'ils contrôlent pendant une durée adaptée à la destination du système et d'au moins 6 mois, sauf disposition contraire. Le texte fixe un plancher et un litige peut survenir bien après 6 mois.
Les 2 niveaux de preuve
Commencez par le premier niveau et ajoutez le second là où vous savez qui viendra le réclamer. L'ACF impose une propriété et non un outil : la trace ne doit pas pouvoir être modifiée sans que cela se détecte.
| Niveau | Ce qu'il demande | Ce qu'il apporte |
|---|---|---|
| 1. Registre ordinaire | Un registre où l'on ajoute sans jamais revenir en arrière, avec une date donnée par le système et non par celui qui écrit | Vous défendez votre preuve ce qui suffit dans la plupart des situations |
| 2. Trace scellée | Une signature Ed25519 et une chaîne de hachage SHA-256, vérifiables par un tiers | La preuve se défend seule, lorsque la trace elle-même est contestée |
Ce que la signature ne fait pas
Un scellement garantit l'intégrité de ce qui a été écrit et ne dit rien de ce qui aurait dû l'être. Une chaîne parfaitement signée sur un registre lacunaire authentifie ses lacunes. La valeur d'une piste vient de ce qui se décide en amont : la criticité, le niveau d'autonomie, la règle et le responsable. Une signature établit aussi que le détenteur d'une clé a signé ; rattacher cette clé à une personne relève de l'organisation qui la gère et c'est cette condition que le droit examine.
Gardez aussi une copie. Une preuve conservée chez le seul fournisseur dont elle documente le comportement peut se perdre au moment précis où vous en avez besoin.
Questions fréquentes
Combien de temps conserver une piste d'audit de l'IA ?
Au moins 6 mois pour les systèmes à haut risque au titre de l'AI Act, sauf disposition contraire. En pratique, alignez-vous sur les délais de prescription et les règles sectorielles qui s'appliquent aux décisions concernées, dans le respect de la protection des données.
Faut-il une blockchain pour une piste d'audit ?
Non. Une chaîne de hachage et une signature à clé publique sont des standards publics qui offrent une intégrité vérifiable de façon indépendante, sans registre distribué.
Une piste d'audit peut-elle prouver pourquoi un agent a décidé ?
Elle peut prouver ce que l'agent a décidé, selon quelle règle et sous quelle signature. Elle ne peut pas établir ce qui a incliné le modèle en interne, raison de plus pour concentrer la gouvernance sur ce que l'agent a le droit de faire.
Où en est votre organisation ?
ACF Score mesure votre gouvernance agentique en une dizaine de minutes, le vérificateur AI Act indique les obligations qui vous concernent et ACF Control applique vos règles avant qu'un agent n'agisse.
Termes liés
Sources primaires
Rédigé par Vincent Dorange, créateur de l'Agentic Commerce Framework®. Dernière mise à jour : .