Source: The Conversation – France (in French) – By Matthijs Meire, Associate professor, IÉSEG School of Management
Alors que l’Union européenne met en œuvre sa législation sur l’intelligence artificielle, l’usage de l’IA dans le processus de recrutement par les entreprises fait l’objet d’une attention croissante. De nouvelles recherches montrent que les biais algorithmiques ne proviennent pas toujours des algorithmes eux-mêmes, mais des décisions humaines « intégrées » dans les données avec lesquelles ils sont entraînés.
À la fin de 2025, l’autorité française chargée de la lutte contre les discriminations a exprimé des inquiétudes concernant le système de diffusion d’offres d’emploi d’une grande plateforme de réseaux sociaux. Certaines annonces étaient davantage montrées aux hommes, d’autres aux femmes. Cette affaire illustre une question désormais centrale pour les entreprises et les décideurs publics : comment des systèmes d’IA peuvent-ils produire des résultats inéquitables sans avoir été explicitement programmés pour discriminer ?
Cette question est devenue encore plus importante avec l’entrée en vigueur progressive du règlement européen sur l’IA, qui classe les systèmes utilisés dans le recrutement et l’emploi parmi les applications à haut risque. Le message est clair pour les entreprises qui recourent à l’IA afin de sélectionner, classer ou recommander des candidats… Supprimer les variables sensibles telles que le sexe ou l’origine ethnique ne suffit pas à s’acquitter de ses responsabilités en matière d’équité.
À lire aussi :
Des IA pour recruter : mais qu’en pensent les candidats ?
La fausse neutralité des données
Une idée répandue consiste à penser que les biais apparaissent uniquement lorsqu’un algorithme utilise directement des caractéristiques protégées. Or, le problème est souvent plus subtil. Les systèmes d’IA apprennent à partir de données historiques, elles-mêmes issues de décisions humaines qui peuvent déjà refléter des inégalités.
Les plateformes de travail en ligne et les outils de recrutement s’appuient de plus en plus sur des systèmes de classement. Ceux-ci privilégient généralement des indicateurs tels que les performances passées, le nombre de missions réalisées ou l’expérience accumulée.
Du point de vue des entreprises, cette logique paraît parfaitement rationnelle, puisqu’elle réduit les coûts de recherche, facilite l’identification des profils pertinents et valorise l’expérience. Mais elle comporte aussi un risque. Ces indicateurs supposent que les résultats passés reflètent uniquement le mérite individuel. Or, ils peuvent également être le produit d’un accès inégal aux opportunités.
Une perfide boucle de rétroaction
C’est ainsi qu’apparaît une boucle de rétroaction. Une personne qui bénéficie d’un léger avantage au début de sa carrière accumule davantage d’expérience. Cette expérience améliore son classement dans les systèmes automatisés, ce qui augmente sa visibilité et lui ouvre de nouvelles opportunités. Au fil du temps, cet avantage initial se renforce.
Pour les entreprises qui utilisent des outils de recrutement fondés sur l’IA, cela signifie qu’un classement présenté comme « objectif » ou « basé sur la performance » peut, en réalité, reproduire et amplifier des inégalités préexistantes.
Des inégalités humaines aux biais algorithmiques
Nos recherches sur les grandes plateformes de travail en ligne montrent que ces mécanismes peuvent affecter plusieurs groupes simultanément. Les femmes, en moyenne, accumulent moins de missions réalisées que des hommes présentant des caractéristiques comparables, comme l’âge, le niveau d’études, le tarif horaire, les évaluations reçues et les vérifications du profil. Cette différence se traduit ensuite par une moindre visibilité dans les classements. Les écarts peuvent être encore plus marqués lorsque plusieurs facteurs se combinent : les femmes issues de minorités ethniques, par exemple, sont souvent davantage pénalisées que ne le laisserait prévoir l’effet de chacune de ces caractéristiques prise isolément.
De même, les jeunes professionnels disposent souvent de moins d’expérience à valoriser et peuvent être systématiquement désavantagés dans les classements, malgré des compétences comparables. Il en résulte un « déficit de visibilité » qui ne reflète pas nécessairement les capacités réelles des candidats.
L’un des enseignements majeurs est que ces résultats peuvent apparaître même en l’absence de toute information démographique explicite. Les biais passent alors par des variables indirectes, comme le nombre de missions déjà réalisées. Cet indicateur, qui reflète les décisions de recrutement passées, semble neutre, mais il est étroitement lié à des désavantages structurels.
Ouvrir la boîte noire
Pour les organisations qui déploient l’IA dans le recrutement, la gestion des talents ou les ressources humaines, plusieurs enseignements se dégagent. D’abord, supprimer les données sensibles ne suffit pas. Un système peut continuer à reproduire des inégalités s’il apprend à partir de résultats historiques eux-mêmes biaisés. On peut se demander si le fait de supprimer complètement les données sensibles des profils de free-lances permettrait de résoudre le biais humain initial.
Ensuite, les critères d’optimisation méritent une attention particulière. Les outils conçus pour identifier les « meilleurs candidats » risquent de favoriser ceux qui ont déjà bénéficié d’une plus grande visibilité ou d’un accès privilégié aux opportunités.
Enfin, les boucles de rétroaction doivent être considérées comme un véritable enjeu de gouvernance. Lorsqu’un système influence la visibilité des candidats, et que cette visibilité façonne les données utilisées demain, les biais peuvent s’autoalimenter.
Un défi majeur pour la gouvernance de l’IA
La mise en œuvre de la réglementation européenne marque un changement de perspective. La question n’est plus seulement de savoir si un algorithme utilise des données sensibles, mais aussi s’il produit des effets discriminatoires par des mécanismes indirects.
Les enjeux dépassent largement le recrutement. Aujourd’hui, les algorithmes influencent également l’octroi de crédit, la tarification des assurances, les recommandations personnalisées ou encore la modération de contenu. Dans tous ces domaines, comprendre l’origine des données devient aussi important que la conception technique des modèles.
Les auteurs ne travaillent pas, ne conseillent pas, ne possèdent pas de parts, ne reçoivent pas de fonds d’une organisation qui pourrait tirer profit de cet article, et n’ont déclaré aucune autre affiliation que leur organisme de recherche.
– ref. Quand les algorithmes de recrutement renforcent les biais que l’on voulait réduire – https://theconversation.com/quand-les-algorithmes-de-recrutement-renforcent-les-biais-que-lon-voulait-reduire-285384