Après la Caf, critiquée pour son algorithme de notation des allocataires jugé discriminant, c’est au tour de France Travail de voir contester son nouveau système d’évaluation des demandeurs d’emploi. La Quadrature du Net monte au créneau.
France Travail recourt désormais à des algorithmes dans la gestion des demandes d’emploi. Ce système reposant sur l’IA utilise des scores de suspicion et des scores d’employabilité, censés évaluer l’honnêteté et l’attractivité des chômeurs sur le marché du travail. Cette méthode de profilage algorithmique, selon l’organisme de l’emploi, vise à optimiser le travail des conseillers.
Il faut savoir que le score d’employabilité est défini comme la capacité d'un individu à évoluer de manière autonome sur le marché du travail, en fonction de ses connaissances, de ses qualifications et de ses comportements professionnels. Pour sa part, le score de suspicion est utilisé pour noter les chômeurs sur la base d’un score de suspicion à la fraude utilisant des éléments, tels que les temps de travail, les salaires touchés, les condamnations, ainsi que les sanctions administratives ou pénales.
Mais cette méthode basée sur le recours croissant aux algorithmes est sévèrement critiquée par l’association de défense des droits numériques, considérant qu’elle pose de sérieuses questions éthiques. Représentant une forme de surveillance de masse, cette méthode peut entraîner le risque de déshumanisation dans le traitement des demandes d’emploi, estime la Quadrature du Net qui ajoute que dans ce processus de recherche d’emploi, les chômeurs sont considérés et traités comme des ensembles de données, plutôt que des citoyens avec des droits.
L'association exprime aussi ses vives inquiétudes sur les conséquences de l’utilisation de l’IA et de ses classifications automatiques sur les demandeurs d’emploi. Cela pourrait, explique-t-elle, engendrer une stigmatisation et une standardisation de l’accompagnement des chômeurs.
Ce système de catégorisation des personnes en situation de « perte de confiance », en « besoin de redynamisation » ou à « risque de dispersion » peut entraîner une simplification excessive de la complexité des parcours individuels. Pour la Quadrature du Net, c’est la personnalisation de l’accompagnement, nécessaire à l’efficacité de l’aide apportée, qui doit primer sur ces étiquettes algorithmiques déterminant les opportunités et le type d’assistance offerts, plutôt que les besoins réels et spécifiques de chaque personne.
France Travail se défend et estime que sa méthode ne va pas remplacer le travail des conseillers
Pour sa part, réagissant aux critiques de la Quadrature du Net, le directeur général de France Travail, Thibaut Guilluy, explique que l’utilisation des algorithmes vise à accompagner et non à remplacer le travail des conseillers. Ces mécanismes doivent permettre une aide à la décision, libérant ainsi du temps pour un accompagnement personnalisé. Thibaut Guilluy a également mentionné une charte éthique dont l’objectif est de garantir un cadre de confiance respectueux des valeurs de France Travail.
Une charte qui ne convainc pas la Quadrature du Net qui estime que son efficacité reste à prouver sur le terrain, avec notamment la nécessité de distinguer la mission légale de contrôle de la surveillance excessive. Ce qui appelle à une vigilance constante pour éviter des intrusions démesurées dans la vie des personnes, note l'association de défense des droits numériques.
La Quadrature du Net critique également les nouvelles méthodes de sanction évoquées par le directeur de France Travail, telles que la « suspension remobilisation ». Cette automatisation des décisions de sanction appliquée sans discernement humain, même présentée sous forme de méthodes de motivation, risque d’engendrer un impact néfaste sur les populations en situation précaire.
