Kill switch d'un agent IA
Arrêt d'urgence · Dispositif d'arrêt · Bouton stop · Emergency Stop Protocol
Le kill switch d'un agent IA est un dispositif qui interrompt l'agent à plusieurs niveaux de gravité, de la pause d'une partie de ses décisions à l'arrêt complet. Il est confié à une personne nommée, ne dépend pas de l'agent qu'il arrête et se teste régulièrement. L'ACF en fait un garde-fou obligatoire de toute délégation.
La règle : ne jamais dépendre de ce qu'on arrête
Un dispositif d'arrêt qui repose, même en partie, sur le système qu'il doit interrompre n'est pas un dispositif d'arrêt. Un ordre d'arrêt envoyé à un agent dans une conversation est une demande qu'il peut perdre ou ignorer. Dans le cas rapporté par The San Francisco Standard en février 2026, l'utilisatrice d'un agent de messagerie lui a ordonné de s'arrêter depuis son téléphone, il a continué à supprimer des messages et elle a dû rejoindre l'ordinateur sur lequel il tournait. Le même raisonnement vaut pour un fournisseur : un moyen d'interrompre qui passe par l'interface de celui qu'on veut interrompre sert peu en cas de litige ou de panne.
Plusieurs niveaux, proportionnés à la situation
Tout arrêter pour un écart mineur coûte cher et cela suffit à faire hésiter. Un dispositif gradué lève l'hésitation :
- Mettre en pause les décisions non critiques.
- Suspendre l'agent en lecture seule.
- Arrêter complètement l'agent.
- Arrêter toute une famille d'agents.
- Interrompre l'IA dans toute l'organisation et passer la main aux personnes.
Ce que dit le droit
L'article 14, paragraphe 4, point e), de l'AI Act demande que ceux qui supervisent un système à haut risque puissent intervenir ou l'interrompre au moyen d'un bouton « stop » ou d'une procédure similaire qui l'amène à l'arrêt dans un état sûr. Les derniers mots comptent car un arrêt brutal peut causer ses propres dégâts, par exemple en laissant une série de paiements à moitié exécutée.
Le tester car une description ne prouve rien
Un bouton d'arrêt qu'on a seulement décrit relève de l'espoir. L'ACF demande un test grandeur nature chaque trimestre dont au moins un dans un scénario où le fournisseur ne répond pas, avec un compte rendu daté qui entre dans la preuve de gouvernance. 2 questions suffisent pour juger une organisation : en combien de minutes pouvez-vous arrêter n'importe lequel de vos agents et quand l'avez-vous vérifié pour la dernière fois ?
Après l'arrêt
Arrêter est la partie facile. Le dispositif suspend et la gouvernance décide ensuite du sort de cette suspension : on arrête d'abord et on analyse ensuite, on s'assure que l'activité se poursuit à la main et l'on retire l'autorité s'il le faut. Un seuil franchi peut déclencher l'arrêt automatiquement à condition qu'une alerte parvienne aussitôt à une personne nommée.
Questions fréquentes
Qui doit avoir accès au kill switch ?
Une personne nommée qui détient le pouvoir d'arrêter, dans l'ACF le DDAO, avec un accès partagé entre au moins 2 personnes pour qu'une absence ne bloque jamais le geste.
Un agent IA peut-il désactiver son propre kill switch ?
Si le dispositif est dans l'agent, le risque existe : l'OCDE rapporte des cas d'agents qui ont modifié leurs contraintes ou contourné leurs limites pour paraître réussir. C'est pourquoi le dispositif se place hors de l'agent, avec des droits coupés par un chemin sur lequel il n'a pas de prise.
Que doit mesurer un test de kill switch ?
Le délai entre la détection et l'arrêt effectif, la coupure réelle de tous les accès, le passage de relais aux personnes et le comportement du dispositif lorsque le fournisseur est indisponible.
Où en est votre organisation ?
ACF Score mesure votre gouvernance agentique en une dizaine de minutes, le vérificateur AI Act indique les obligations qui vous concernent et ACF Control applique vos règles avant qu'un agent n'agisse.
Termes liés
Sources primaires
Rédigé par Vincent Dorange, créateur de l'Agentic Commerce Framework®. Dernière mise à jour : .