L’onomastique appliquée à l’étude des discriminations en entreprise

Le constat est récurrent : des discriminations importantes fondées sur le patronyme dans les entreprises françaises (Egalactu, 2020). Les discriminations en fonction du nom continuent d’exister selon une étude du ministère du Travail (L’Usine Nouvelle, 2016). L’ouvrage de Jérôme Fourquet (IFOP), L’archipel français, décrit la naissance d’une nation multiple, divisée, en voie d’archipelisation. Le débat sur les statistiques ethniques reste fortement polarisé et n’offre aucune perspective de solution à court ou moyen terme. En effet, ce serait une usine à gaz à mettre en place au niveau d’un Etat comme la France. 

Dans le même temps, les entreprises françaises d’internationalisent, se modernisent. Elles sont en permanence confrontées à la diversité (en France, à l’étranger) et à des attentes de plus en plus fortes en terme d’équité. L’intelligence articificielle s’introduit dans les processus métiers aussi critiques que : le recrutement, la gestion des ressources humaines – voire même des processus décisionnels lourds de conséquence pour les individus comme l’allocation de crédit, le ‘KYC’/anti-fraude et bien d’autres. Ces processus sont partiellement ou entièrement automatisés, avec des risques considérables que tous les individus ne soient pas évalués à l’aune dune même règle algorithmique. En effet, l’intelligence artificielle (ou plus précisément le “machine learning”) permet de développer rapidement des systèmes qui miment l’intelligence humaine telle qu’elle été appliqué historiquement dans une entreprise – mais sans l’intelligence humaine justement (son discernement, sa capacité d’expliquer).

L’exemple du recrutement en entreprise

Sans capacité réelle de discernement, d’explicabilité, un algorithme peut privilégier les candidatures de femmes pour des métiers subalternes ou des métiers classiquement privilégié par des femmes – sans tenir compte de la compétence réelle des candidates par exemple. 

Ces biais algorithmiques sont extrèmement complexes à discerner. L’analyse des corrélations observées et de la causalité dépasse souvent les compétences des informaticiens comme du personnel RH. Et hélas, la facilité d’utilisation de l’intelligence articificielle rend extrèmement populaires des outils facilitant la collecte des candidatures, leur priorisation pour un poste donnée (ce qu’on appelle, en jargon RH le sourcing et le scoring).

Prenons le cas d’un outil comme Oracle Taleo, utilisé par certains des plus grandes entreprises françaises (Engie, Orange, …) qui est une plateforme d’acquisition de talents permettant de trouver et d’embaucher les meilleurs candidats. Cet outil d’entreprise peut être fortement configuré par chaque client selon ses priorités sectorielles, géographiques, sa culture d’entreprise etc. Il dispose d’outils permettant de faire correspondre ‘le meilleur CV’ par rapport à la description textuelle d’un poste à pourvoir. 

Une croyance générale est que la RGPD ou l’anonymisation des CVs permet de résoudre le problème des biais sur le genre ou l’origine du candidat. Après tout, si l’on ne dispose pas d’une donnée, elle ne peut être traitée par l’algorithme ? Grave erreur : les algorithmes d’intelligence artificielle apprenne beaucoup plus des données que ce que l’on croit. Le genre peut-être déduit des accords grammaticaux. Les origines ethniques ou sociales sont révélées par la socio-linguistique ou des variables secondaires comme les activités extra-scolaires extra-professionnelles, la géographie de vie, ou d’autres informations présentes dans un CV. 

Les entreprises s’exposent à des risques importants et invisibles en cas de ‘testing’ par un cabinet indépendant : qu’un grand nombre de CVs n’aient même pas atteint l’attention humaine, simplement parcequ’ils ont été filtrés en amont par la machine. 

Quelles solutions ? Des possibilités existent, en conformité avec la législation et pour l’intérêt de toutes et tous, permettant de vérifier si les filtres appliqués aux différentes étapes du recrutement sont équitables. Cela peut consister en de simples tableaux de bord présentant les différentes étapes du recrutement avec une décomposition démographique anonymisée. Ou cela peut faire appel à des techniques plus poussées d’analyse des biais algorithmiques (AI Fairness Toolkit); variations d’indices de diversité type Shannon ou Simpson. 

Biais inconscients, diversité et inclusion.

Le cabinet de conseil entre-autre a conclus un partenariat avec NamSor pour offrir des solutions pratiques, pouvant être mises en oeuvre dans le cadre réglementaire. L’objectif ? Permettre aux entreprises françaises d’évaluer le risque de discriminations, apporter des solutions aux équipes RH pour bénéficier de l’IA mais sans que ce soit au détriment des candidats. 

 

 



Citer ce billet
Elian Carsenat (2022, 6 janvier). L’onomastique appliquée à l’étude des discriminations en entreprise. Onomatique. Consulté le 24 avril 2024, à l’adresse https://doi.org/10.58079/sj0s

Vous aimerez aussi...

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search