Blog / Données personnelles

Quand un agent décide-t-il au sens du RGPD ? Ce que dit l'arrêt SCHUFA

Beaucoup d'entreprises pensent échapper à l'article 22 du RGPD parce qu'un humain signe à la fin. L'arrêt SCHUFA montre que la question ne se règle pas sur la signature mais sur le poids réel de ce que la machine a produit.

Par Vincent Dorange, , 2 min de lecture

7 déc. 2023

la CJUE juge qu’un score de crédit peut constituer une décision automatisée

L'article 22 du RGPD donne à toute personne le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, qui produit des effets juridiques la concernant ou l'affecte de manière significative 1. Il admet 3 exceptions : une décision nécessaire à un contrat, autorisée par le droit de l'Union ou d'un État membre, ou fondée sur un consentement explicite.

Beaucoup d'organisations en concluent qu'il suffit qu'un humain signe la décision finale pour sortir du champ du texte. Le 7 décembre 2023, la Cour de justice de l'Union européenne a montré que ce raisonnement a ses limites 2.

L’affaire SCHUFA

Une personne s'était vu refuser un prêt après qu'une agence allemande d'information sur la solvabilité, la SCHUFA, eut calculé à son sujet un score défavorable. Saisie par le tribunal administratif de Wiesbaden, la Cour a jugé que l'établissement automatisé de ce score constitue lui-même une décision individuelle automatisée au sens de l'article 22, dès lors que le prêteur s'appuie fortement sur lui pour conclure, exécuter ou rompre une relation contractuelle avec la personne (affaire C-634/21).

Le raisonnement de la Cour est pratique. Si seule la décision finale du prêteur comptait, la personne ne pourrait pas obtenir de l'agence les informations sur la logique du calcul, alors même que c'est ce calcul qui a joué le rôle déterminant.

Ce que cela change pour un agent

Un agent IA qui prépare une décision ressemble beaucoup à ce score. Il trie des candidatures, propose un refus de remboursement, classe des dossiers de crédit ou recommande un prix. À la lumière de l'arrêt, si l'humain qui valide se contente en pratique de suivre la proposition de l'agent, c'est cette proposition qui risque d'être tenue pour la décision. Une validation de pure forme ne protège donc pas.

Il faut savoir, pour chaque décision qu'un agent prépare, si l'humain qui valide a les moyens réels de la contester : le temps, l'information, le pouvoir de dire non. L'Agentic Commerce Framework® traite ce point comme une question de conception. La supervision humaine se place là où elle peut changer l'issue ; la classification des décisions indique lesquelles touchent des personnes.

Sources

Liens vers les textes officiels et les publications d'origine.

  1. 1Règlement (UE) 2016/679 (RGPD), article 22, Journal officiel de l'Union européenne, 27 avril 2016.
  2. 2Arrêt C-634/21, OQ contre Land Hessen (SCHUFA Holding), Cour de justice de l'Union européenne, 7 décembre 2023.

Les notions du glossaire citées dans cet article

Supervision humaine de l'IAClassification des décisions des agents IA

Vincent Dorange, concepteur de l'Agentic Commerce Framework®

À lire aussi

95 %

des organisations interrogées ont connu au moins un incident lié à un agent en 12 mois

Gouvernance

95 % des organisations ont déjà connu un incident lié à un agent IA, selon Gartner

25

organisations interrogées ; aucune ne laisse à ses agents une autonomie sans restriction

Gouvernance

Agents IA en entreprise : ce que l'OCDE a appris de 25 organisations

4 leviers

plafonds, budgets, contreparties approuvées et règles d’escalade, selon Circle

Économie agentique

Économie agentique : des agents qui dépensent dans des permissions déléguées

Tous les articles