Justice sociale : quand les algorithmes de la CAF discriminent les plus précaires

Aujourd’hui, je voudrais revenir sur la “France des tracas” évoquée par le président Macron. Le gouvernement a su entendre les agriculteurs qui demandaient une simplification des règles les concernant. Ainsi, les fameuses haies ne seront plus soumises qu’à un seul règlement, au lieu de quatorze. On peut espérer qu’il continue sur cette lancée pour faciliter la vie des plus pauvres et des plus précaires qui sont soumis à un univers de règles tout aussi ubuesques, assorties d’une application arbitraire et déshumanisée, souvent  automatisée par des algorithmes.

Les algorithmes de la CAF ciblent systématiquement les plus précaires

Dans une lettre ouverte du 6 février, plus d’une vingtaine d’associations — dont Changer de Cap, ATD Quart Monde, le Secours Catholique, Emmaüs France, la Fondation Abbé Pierre, la Cimade, et bien d’autres — demandent à la Caisse des Allocations Familiales (CAF) de cesser d’avoir recours à ces algorithmes de ciblage des allocataires potentiellement en fraude.

En décembre, une enquête extrêmement détaillée parue dans Le Monde avait en effet montré que les procédures automatiques pour identifier des fraudeurs potentiels avaient comme conséquence le ciblage systématique des parents isolés, des plus pauvres, et des bénéficiaires de l’allocation de handicap.

Plus généralement, ces associations mettent l’accent sur les conséquences néfastes pour les plus pauvres de règles obscures, de suspensions automatiques des droits en cas de fraude suspectées, sans procédure contradictoire, et du manque d’interlocuteurs humains.

La CAF se défend de toute discrimination

Auditionné par le Sénat, Nicolas Grivel, directeur de la Caisse Nationale des Allocations familiales, s’est défendu de tout ciblage explicite des mères célibataires ou de ceux qui reçoivent l’allocation handicapée. Cette audition vaut la peine d’être écoutée. En réponse à une question d’Adel Ziane (de Seine-Saint-Denis), qui lui demande s’il existe un ciblage sur les plus pauvres, Nicolas Grivel explique que l’algorithme identifie plus facilement les publics les plus précaires et les handicapés justement parce que les règles sont les plus complexes, leurs revenus sont plus instables, viennent de multiples sources, et donc “ils se trompent” souvent. Et il faut que l’état puisse récupérer “ses indus”. Donc statistiquement, nous dit-il, c’est bien normal que les contrôles tombent plus souvent sur eux.

Sans nous révéler la sauce secrète de son algorithme, il touche un sujet qui préoccupe beaucoup ceux qui développent ce type d’outils : celui de la justice algorithmique. Même si l’on n’autorise pas un algorithme à utiliser certaines caractéristiques, il peut reproduire une discrimination systématique, si elle existe dans la société. C’est justement parce que ces personnes ont une vie plus difficile et compliquée qu’ils sont visés systématiquement par les contrôles ; et les règles complexes qu’on leur impose empirent encore leur cas ! La machine reproduit cette discrimination.

À la racine du problème, une idéologie anti-pauvre, nourrie de préjugés

Ni Nicolas Grivel ni surtout les agents de la CAF ne sont individuellement responsables. L’objectif qui a été fixé à la CAF, c’est en effet de chasser la fraude — qui est supposée être généralisée parmi les pauvres. Les règles sont donc de plus en plus arcanes, et les contrôles de plus en plus fréquents. En même temps, les frais de fonctionnement et donc le nombre d’agents se réduisent comme peau de chagrin. D’où la nécessité de recourir aux algorithmes.

C’est donc une idéologie anti-pauvre, nourrie de préjugés qui est à la racine du problème. Cette défiance est également l’une des raisons du non recours, comme l’ont montré plusieurs études. Parfois ce sont les demandeurs qui sont rejetés, parfois les plus précaires font l’hypothèse qu’ils seront rejetés de toute façon, ou ne candidatent pas par honte d’être identifiés comme l’un de ces pauvres soi-disant paresseux.

Le plus triste, c’est qu’il y aurait nettement plus d’argent à gagner en allant chasser l’optimisation fiscale chez les plus fortunés. Mais entre “les premiers de cordée” et ceux “qui ne traversent pas la rue pour chercher un emploi”, le choix est clair.