Blog / Données personnelles
Quand un agent décide-t-il au sens du RGPD ? Ce que dit l'arrêt SCHUFA
Beaucoup d'entreprises pensent échapper à l'article 22 du RGPD parce qu'un humain signe à la fin. L'arrêt SCHUFA montre que la question ne se règle pas sur la signature mais sur le poids réel de ce que la machine a produit.
Par Vincent Dorange, , 2 min de lecture
la CJUE juge qu’un score de crédit peut constituer une décision automatisée
L'article 22 du RGPD donne à toute personne le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, qui produit des effets juridiques la concernant ou l'affecte de manière significative 1. Il admet 3 exceptions : une décision nécessaire à un contrat, autorisée par le droit de l'Union ou d'un État membre, ou fondée sur un consentement explicite.
Beaucoup d'organisations en concluent qu'il suffit qu'un humain signe la décision finale pour sortir du champ du texte. Le 7 décembre 2023, la Cour de justice de l'Union européenne a montré que ce raisonnement a ses limites 2.
L’affaire SCHUFA
Une personne s'était vu refuser un prêt après qu'une agence allemande d'information sur la solvabilité, la SCHUFA, eut calculé à son sujet un score défavorable. Saisie par le tribunal administratif de Wiesbaden, la Cour a jugé que l'établissement automatisé de ce score constitue lui-même une décision individuelle automatisée au sens de l'article 22, dès lors que le prêteur s'appuie fortement sur lui pour conclure, exécuter ou rompre une relation contractuelle avec la personne (affaire C-634/21).
Le raisonnement de la Cour est pratique. Si seule la décision finale du prêteur comptait, la personne ne pourrait pas obtenir de l'agence les informations sur la logique du calcul, alors même que c'est ce calcul qui a joué le rôle déterminant.
Ce que cela change pour un agent
Un agent IA qui prépare une décision ressemble beaucoup à ce score. Il trie des candidatures, propose un refus de remboursement, classe des dossiers de crédit ou recommande un prix. À la lumière de l'arrêt, si l'humain qui valide se contente en pratique de suivre la proposition de l'agent, c'est cette proposition qui risque d'être tenue pour la décision. Une validation de pure forme ne protège donc pas.
Il faut savoir, pour chaque décision qu'un agent prépare, si l'humain qui valide a les moyens réels de la contester : le temps, l'information, le pouvoir de dire non. L'Agentic Commerce Framework® traite ce point comme une question de conception. La supervision humaine se place là où elle peut changer l'issue ; la classification des décisions indique lesquelles touchent des personnes.
Sources
Liens vers les textes officiels et les publications d'origine.
- 1Règlement (UE) 2016/679 (RGPD), article 22, Journal officiel de l'Union européenne, 27 avril 2016.
- 2Arrêt C-634/21, OQ contre Land Hessen (SCHUFA Holding), Cour de justice de l'Union européenne, 7 décembre 2023.
Les notions du glossaire citées dans cet article
Vincent Dorange, concepteur de l'Agentic Commerce Framework®