Une ONG polonaise gagne contre les algorithmes

L’ONG polonaise Panoptykon est parvenue à rendre anticonstitutionnel l’algorithme utilisé par l’équivalent de Pôle Emploi en Pologne. Une grande victoire en Europe !

En 2014, le gouvernement polonais a mis en place une grande réforme du service à l’emploi (équivalent de pôle emploi). L’ensemble des antennes locales ont recensé massivement les individus sans emploi afin de les réintroduire sur le marché du travail. Malgré cette grande réforme, et face à la masse des chômeurs, l’Etat n’était pas en capacité d’apporter une aide personnalisée à chaque individu en situation d’inactivité. Dès lors, afin de combler un manque de fonctionnaire (ce qui fut sûrement une volonté du gouvernement de ne pas recruter plus de fonctionnaires), un algorithme a été introduit. Cet algorithme fonctionnait de telle sorte à établir un profil, le « profiling« , qui était supposé, d’une part, aider les chômeurs et, d’autre part, colmater la brèche de l’austérité.

Le « profiling » utilisé par cet algorithme recensait 24 variables (« data points« ). 8 d’entre elles étaient collectées directement dès l’inscription (l’âge, le genre, le handicap, la durée du chômage etc.). Dès lors, chaque chômeur était assigné à une catégorie/profil de réinsertion sur le marché du travail et d’aide à la personne. Ainsi, l’office national du service à l’emploi polonais disposait d’une base de données gargantuesque sur une partie de la population.

L’ONG Panoptykon répertorie différentes catégories, prenons quelques exemples :

    • Premier profil : catégorie diplômée, active et dont les qualifications sont suffisantes pour retrouver un travail rapidement. Ils représentent entre 2 et 5% de la population concernée.
    • Deuxième profil : personne ayant des difficultés à entrer sur le marché du travail avec un manque de qualification et de diplôme. Ce groupe est le plus aidé par le service.
    • Troisième profil : les chômeurs de longue durée, avec de grandes difficultés notamment liées à une maladie, un handicap ou une « addiction ». Cette catégorie correspond à 30% des chômeurs. N’ayant pas les ressources nécessaires comme les autres catégories, ces individus devraient recevoir le plus d’aide de la part de l’Etat. Dans les faits, ce n’est pas la cas. Cette catégorie est considérée comme non rentable et donc abandonnée par les services.

Conçu comme un outil à des fins consultatives pour les agents, l’algorithme de profilage est devenu le décideur.

Notons tout de même que les chômeurs n’avaient pas accès, ni le droit d’avoir d’accès, à l’utilisation des informations recueillies et à la manière dont était déterminée leur situation.

C’est dans ce cadre que l’ONG Panoptykon a utilisé les dispositions de liberté d’information pour obtenir les détails du profilage des chômeurs. Après une longue bataille juridique, l’ONG a obtenu et publié l’informatisation des données et les règles de notation en vigueur. L’autorité suprême (équivalent du conseil constitutionnel), saisie sur cette affaire, a conclu sur le caractère anticonstitutionnel d’une telle pratique de contrôle des populations. En effet, cette pratique pouvait, selon cette institution, conduire à de nombreuses discrimination et notamment sur des individus déjà très vulnérables comme les handicapés, les femmes seules etc. réduisant encore plus leurs chances de se réinsérer dans la société.

Voir ici

Aux Pays-Bas, le système de profilage des individus est déclaré illégal !

En février 2020, la cour de justice néerlandaise a ordonné l’arrêt d’un système de surveillance massif et automatisé de la fraude sociale.

Une coalition d’ONG, constituée de la plateforme néerlandaise de protection des droits civiques (« Platform Bescherming Burgerrechten« ), le comité de juristes néerlandais pour les droits humains (« Nederlands Juristen Comité voor de Mensenrechten »), la « Privacy First« , la fondation KDVP etc. a réussi a mener ce combat jusqu’au bout !

Cette attaque en justice a permis à la cour de conclure à une violation stricte de la convention européenne des droits de l’homme. L’algorithme de profilage des individus nommé SyRI (« System risk indication« ) contrevenait, en effet, aux droits humains. D’une part, le système portait atteinte de manière complètent disproportionné à la vie privée des concitoyens sans que ces derniers puissent anticiper ou se prémunir de cette intrusion. D’autre part, SyRI présentait un risque de fonctionnement sur des préjugés discriminatoires et stigmatisants de catégories sociales déjà largement défavorisées. Enfin, le dernier grand succès de cette action réside dans l’interdiction formelle de combiner les données à caractère privées provenant de différentes sources sans soupçons fondés. Cette dernière interdiction juridique protège les allocataires du profilage massif organisé par les administrations publiques et les contrôles industriels qui en découlent !

La justice néerlandaise nous offre ici une leçon de démocratie et de respect des droits de l’homme ! Il ne fait aucun doute, à la lumière de cet exemple, que la CAF utilise un algorithme prédateur, discriminatoire et surement illégal contre nous ! Il suffit pour cela de se référer, à titre d’exemple, à une circulaire de la CNAF, circulaire interne  2012142 du 31 août 2012 : l’organisme recommande de cibler « les personnes nées hors de l’Union européenne ». 

Nous ne laissons pas faire. A notre tour, contre-attaquons !

Voir ici

Ces exemples sont enrichissants car ils nous indiquent que les institutions démocratiques peuvent être saisies et nos actions couronnées de succès. Nous, société civile, associations, individus devons se saisir des cours constitutionnelles, des commissions de défenses des droits fondamentaux pour ne jamais laisser nos libertés entravés.


Ensemble LUTTONS !