Humain dans la boucle
Human in the loop · HITL · Humain sur la boucle
L'humain dans la boucle est un dispositif où une personne doit approuver l'acte d'un système d'IA avant qu'il ne produise ses effets. L'humain sur la boucle veut dire que le système agit et qu'une personne veille, avec les moyens d'intervenir. L'humain hors de la boucle veut dire que personne n'intervient pendant l'exécution.
La bonne personne au bon endroit
Mettre un humain partout n'est ni possible ni souhaitable. Le principe utile est une personne au bon point de décision, avec une capacité réelle d'intervenir, d'arrêter et d'auditer et plus une décision est lourde et difficile à défaire, plus elle remonte. Dans l'ACF le réglage dépend de la zone de la décision : les décisions vertes tournent avec une personne sur la boucle, les décisions orange avec une personne dans la boucle et les décisions rouges restent à la personne.
Les 3 grandeurs qui cassent la boucle
Dès que l'une d'elles franchit un seuil, la règle n'est plus appliquée alors même que la procédure existe sur le papier. C'est le moment où un contrôle exercé par un logiciel avant l'exécution, comme ACF Control, prend le relais et où la personne traite les vraies exceptions.
| Grandeur | Ce qui se passe |
|---|---|
| Volume | La validation devient une signature aveugle |
| Vitesse | Il ne reste plus le temps d'escalader avant que l'acte ne produise ses effets |
| Irréversibilité | Un paiement parti, un compte fermé ou une parole publiée ne se rattrapent plus |
Ce qui rend la relecture réelle
- Celui qui relit dispose des informations nécessaires pour refuser et du temps de s'en servir.
- Refuser ne lui coûte rien.
- Les taux d'approbation sont suivis : un taux de 100 % pendant des mois doit poser question.
- Un client peut demander une personne à tout moment par un moyen qui ne passe pas par l'agent.
Questions fréquentes
L'AI Act impose-t-il un humain dans la boucle ?
Il impose une supervision humaine effective pour les systèmes à haut risque, à proportion du risque et de l'autonomie, sans exiger l'approbation de chaque acte. Un cas précis demande une vérification par au moins 2 personnes : les décisions fondées sur l'identification biométrique à distance.
Quand l'humain dans la boucle est-il le mauvais choix ?
Quand le volume ou la vitesse vident la relecture de son sens. Une relecture de façade vaut moins que rien car elle donne une fausse assurance et fait porter à une personne une décision qu'elle n'a pas vraiment prise.
Où en est votre organisation ?
ACF Score mesure votre gouvernance agentique en une dizaine de minutes, le vérificateur AI Act indique les obligations qui vous concernent et ACF Control applique vos règles avant qu'un agent n'agisse.
Termes liés
Sources primaires
Rédigé par Vincent Dorange, créateur de l'Agentic Commerce Framework®. Dernière mise à jour : .