CAF, algorithme et contrôle social

femme et code informatique

Depuis le mois de janvier, Changer de cap a constitué une équipe de travail pour approfondir les questions liées au contrôle social imposé par les CAF et participer aux  réflexions communes sur la déshumanisation plus générale des services publics. 

L’équipe mène cette première phase de travail sur plusieurs axes :

Un recueil de témoignages

Nous avons lancé un appel à témoignages pour relever des cas de dysfonctionnements dans les relations entre la CAF et les allocataires afin de les analyser et de les mettre en lien. 

Les premiers témoignages recueillis sont parfois accablants. Par exemple, à Paris, une femme handicapée a subi 5 contrôles en 2 ans et demi, sans doute automatisés. Le déclenchement d’un contrôle se traduit par la suspension de tous les versements (allocation adulte handicapé, allocations familiales, APL…). Les personnes contrôlées se voient donc privées de toutes ressources pendant la durée du contrôle (3 mois en moyenne) suivi d’un délai de rétablissement des droits (3 à 4 mois supplémentaires). Elles doivent durant cette période supporter les frais bancaires, les frais d’opposition aux prélèvements, envoyer de multiples lettres recommandées, contester les erreurs… La plupart des décisions ne sont pas motivées, ni même notifiées : la personne constate un jour la cessation des versements. Il est quasiment impossible – contrairement aux affirmations de la CAF – de trouver un interlocuteur pour rectifier une erreur.

Avec ces exemples, une typologie des problèmes pourrait être élaborée, avec différentes propositions de réponses que les personnes peuvent formuler en connaissant mieux leurs droits et les conduites à tenir, y compris les recours juridiques. Par exemple, la notification des délais et voies de recours est obligatoire mais est rarement indiquée. Il existe un Code des relations entre le public et l’administration, qui semble-t-il  n’est pas appliqué, selon lequel l’administration doit si on le lui demande communiquer les fondements d’un traitement algorithmique, les données traitées et leurs sources, le détail du traitement

Un dossier d’appui 

Le collectif a commencé à constituer un dossier d’appui à la réflexion. Le premier objectif est de faire connaître l’ampleur des atteintes aux libertés par des administrations publiques en prenant l’exemple de la CAF en s’appuyant sur les exemples et les analyses collectées, et de faire pression pour une évolution du droit et des pratiques. Le deuxième objectif est de fournir des outils pour les mobilisations locales. Il s’agit enfin de contribuer au débat sur ce que pourrait être une autre politique familiale porteuse de sécurité sociale (au sens propre du terme) et de favoriser la prise de conscience des enjeux fondamentaux liés à une autre utilisation des algorithmes et de l’intelligence artificielle.

Nous souhaitons mettre en place une cellule d’appui aux mobilisations locales. Celles-ci sont déterminantes pour sensibiliser, freiner et contester les atteintes aux droits et aux libertés humaines, en complément des actions nationales et européennes. Il s’agit aussi de renforcer les capacités administratives et juridiques de militants de terrain qui accompagnent les personnes soumises à des contrôles. Nous avons commencé à établir des liens dans ce sens avec des avocats, des magistrats et des organisations d’accès aux droits sociaux pour trouver des référents juridiques.

Des rencontres en visio

Un premier forum aura lieu le 24 février de 19h à 21h en visioconférence pour présenter le dossier, mobiliser d’autres énergies et susciter des témoignages. Il permettra de débattre des démarches et des actions à mettre en œuvre pour faire évoluer le droit et parvenir à une meilleure protection des personnes vulnérables discriminées, l’accès des citoyens aux données administratives les concernant, le respect du droit à l’intimité. 

Cependant, la suite de cette action suppose un renforcement des moyens du Collectif, car chaque jour nous voyons mieux la faiblesse de nos moyens face à l’ampleur des enjeux. Des bonnes volontés supplémentaires seraient nécessaires pour pouvoir effectuer un travail de synthèse et de coordination, ainsi que l’organisation d’appuis juridiques ponctuels à certaines actions locales.

Une action qui se conjugue avec d'autres initiatives

Cette action propre à Changer de Cap s’inscrit dans plusieurs initiatives qui vont dans le même sens :

  • Une mobilisation s’est mise en place le 10 février à l’initiative de la CGT chômeurs, Sud solidaires emploi, Sud culture, l’APEIS, le CIP Île-de-France, Stop précarité et la Quadrature du Net pour s’opposer aux radiations de chômeurs, à la généralisation des contrôles de l’emploi, au ciblage algorithmique de la CAF, et pour dénoncer la casse liée à la dématérialisation à marche forcée des services publics. Notre collectif peut apporter à cette mobilisation un éclairage particulier sur les questions liées à la CAF.
  • Un « Manifeste pour un service public plus humain et ouvert à ses administrés » est lancé par un large collectif d’associations et de syndicats (CIMADE, LDH, Médecins du monde, MRAP, CGT, Secours Catholique, UNIOPSS, etc.) que le collectif Changer de cap a signé.
  • A l’échelle européenne, un collectif d’ONG et d’associations s’est constitué à l’initiative d’EDRI et d’Al-found. Ce collectif regroupe à la fois des organisations qui développent une expertise en matière d’intelligence artificielle (IA) et d’autres qui font entendre leur voix au sein du débat public. Des actions communes sont entreprises pour donner plus de consistance au Digital Act en cours de discussion au sein de l’UE. Plusieurs victoires ont été obtenues aux Pays-Bas, où un système de lutte contre la fraude sociale a été déclaré illégal en 2020 après avoir été attaqué par un groupe d’associations, et en Pologne, où l’algorithme utilisé pour les sans-emploi a été déclaré inconstitutionnel en 2019.

Ces actions communes pourraient se prolonger dans plusieurs directions :

Développer ensemble une sensibilisation à grande échelle, avec des exemples et des pistes pour agir afin de mobiliser les citoyen(ne)s, sur l’importance décisive d’un contrôle de l’utilisation des algorithmes.

Partager des enquêtes, réflexions et outils utiles aux assujettis et aux associations.

Engager une réflexion commune pour mettre les données au service de l’accès automatique de tous à leurs droits, tout en limitant leur collecte à ce qui est nécessaire pour atteindre cet objectif.

Développer les liens avec les actions et les réflexions des organisations citoyennes d’autres pays (ONG, collectifs, fondations, etc.), où des combats face à des transgressions du même ordre ont lieu, pour certains depuis de longues années, et où des victoires citoyennes ont été possibles.

Approfondir une autre conception de l’intelligence artificielle et de l’utilisation des données en les considérant comme des Communs. Formuler des propositions pour une réappropriation du numérique au service de l’intérêt général.