Les victimes de discrimination choisissent les recommandations basées sur l’IA plutôt que les conseils humains

Source: The Conversation – in French – By Arash Talebi, Professeur assistant, EDHEC Business School

L’ESSENTIEL

Une étude souligne que les consommateurs discriminés sont plus enclins à se tourner vers des recommandations basées sur l’IA plutôt que vers des conseils humains.
La peur d’être jugé ou de vivre un sentiment de gêne peut conduire à utiliser l’IA.
Si les systèmes d’IA sont eux-mêmes biaisés, ils risquent d’amplifier la discrimination à laquelle les consommateurs tentaient d’échapper.

Que préparer pour le dîner avec un budget de 20 euros et un invité intolérant au gluten ? Un consommateur peut demander conseil à un employé de magasin ou interroger, par exemple, Hopla, l’assistant d’achat basé sur l’intelligence artificielle lancé par Carrefour. Derrière ce choix très quotidien se pose une question plus large : face à une recommandation, faisons-nous davantage confiance à un être humain ou à une IA ?

Des travaux récents – sur les processus de décision, l’impact des erreurs, etc. – ont mis en évidence une tendance claire et bien établie : les individus ont tendance à préférer les êtres humains. Ce phénomène, connu sous le nom d’« aversion pour les algorithmes », a été largement documenté, même lorsque les algorithmes affichent objectivement de meilleures performances.

Cependant, cette préférence n’est pas universelle. Nos recherches soulignent qu’elle peut s’inverser dans un contexte répandu : la discrimination sur les plateformes et marchés, c’est-à-dire lors d’un acte de consommation d’un produit ou d’un service. Plus précisément, les consommateurs victimes de discrimination – en particulier dans des lieux publics – sont nettement plus enclins à se tourner vers des recommandations basées sur l’IA plutôt que vers des conseils humains.

Le mécanisme émotionnel à l’origine de ce changement ? La gêne. Lorsque les personnes se sentent jugées socialement ou traitées injustement en raison d’un attribut personnel non pertinent, elles cherchent refuge dans des systèmes perçus comme neutres et exempts de préjugés.

Comment ce mécanisme fonctionne-t-il ? Qu’est-ce que cela signifie pour les organisations concernées ? Et que révèle-t-il sur les moteurs cachés de l’adoption de l’IA ?

La discrimination implicite

La discrimination dans les contextes de consommation est loin d’être rare. Des études montrent que certains groupes bénéficient de conditions moins favorables que d’autres pour des services similaires, par exemple en matière d’accès au crédit ou à l’assurance. Au-delà de leurs conséquences économiques, ces expériences ont de fortes répercussions psychologiques. Elles augmentent le stress, sapent le sentiment d’équité et influencent les comportements futurs.

Il est important de clarifier ce que signifie la discrimination dans un contexte de marché. Un marché, au sens large, désigne tout espace où les consommateurs interagissent avec des prestataires de services, qu’il s’agisse d’un concessionnaire automobile, d’un restaurant, d’une banque ou d’une plateforme de santé. Au sein de ces espaces, un traitement différencié n’est pas intrinsèquement discriminatoire. Par exemple, un client VIP bénéficiant d’un service haut de gamme est traité différemment sur la base d’un critère commercial pertinent.

La discrimination survient lorsque le facteur de différenciation est non pertinent et illégitime, comme la couleur de peau, l’origine ethnique ou le genre. Ce qui la rend particulièrement insidieuse, c’est qu’elle peut être cachée, implicite, voire involontaire, tout en causant un préjudice psychologique réel à ceux qui en sont victimes.

Un système d’IA dépourvu d’émotions

Dans le cadre d’une étude de terrain que nous avons menée en conditions réelles, des « agents » – en réalité des personnes impliquées dans le dispositif de recherche – ont évalué des demandes de prêt sur un campus universitaire à l’aide de questionnaires quasi identiques, dont l’un comportait une question supplémentaire sur l’auto-évaluation de la couleur de peau.

Tous les candidats ont ensuite été refusés ; ceux qui avaient été confrontés à la question sur la couleur de peau ont déclaré s’être sentis victimes de discrimination (phase 1). Lors de la collecte de données de suivi, réalisée ultérieurement, tous les participants se sont vu proposer le choix entre un évaluateur humain et un évaluateur IA (phase 2).

Une proportion significativement plus élevée de ceux ayant eu l’impression d’avoir subi une discrimination lors de la première phase (par rapport à ceux n’ayant pas eu l’impression d’avoir subi de discrimination lors de cette même phase) a choisi, lors de la deuxième phase, d’être évaluée par le système d’IA décrit comme « dépourvu d’émotions ».

Sentiment de gêne

Les consommateurs discriminés semblent nettement plus enclins à se fier à des recommandations basées sur l’IA plutôt qu’à des conseils humains. En d’autres termes, l’aversion pour les algorithmes peut se transformer en préférence pour les algorithmes, également appelée « appréciation des algorithmes ».

Ce revirement s’explique par un mécanisme psychologique spécifique : la gêne. Cette émotion sociale survient lorsque les individus se sentent jugés négativement par les autres. Dans nos expériences, les participants exposés à des situations discriminatoires font état de niveaux de gêne plus élevés, et cette émotion influence directement leurs choix ultérieurs. Plus ils se sentent gênés, plus ils cherchent à limiter les interactions humaines.

Dans ce contexte, l’IA apparaît comme une alternative plus sûre.

L’IA perçue comme plus neutre

Par rapport aux êtres humains, les systèmes algorithmiques sont perçus comme plus neutres, plus objectifs et moins enclins aux biais ou aux préjugés.

La réalité est plus complexe. Les algorithmes peuvent être biaisés, en fonction des données et de l’entraînement dont ils bénéficient. Pourtant, nombreux sont ceux qui continuent à les considérer comme neutres et objectifs. Dans ce contexte, ce sont ces perceptions qui importent le plus. Opter pour l’IA permet aux consommateurs de réduire le risque d’avoir l’impression d’être à nouveau jugés ou traités de manière injuste.

Cet effet dépend du contexte dans lequel les décisions sont prises. Nous constatons qu’il est particulièrement marqué dans les situations publiques, lorsque les choix sont visibles par les autres. En revanche, lorsque les décisions sont privées, cet effet s’affaiblit considérablement.

Les expériences sociales antérieures

Ces résultats apportent un nouvel éclairage sur l’adoption de l’IA. Ils suggèrent que l’utilisation de systèmes automatisés n’est pas uniquement motivée par des considérations d’efficacité ou de performance, mais également par des besoins psychologiques façonnés par des expériences sociales antérieures.

Pour les entreprises, les implications sont considérables. Dans les secteurs où les interactions peuvent être perçues comme sensibles, telles que la banque, la santé ou les services client en général, proposer des alternatives basées sur l’IA peut aider certains consommateurs à se sentir plus à l’aise. Pour ces personnes, l’IA n’est pas seulement un outil technologique ; elle devient un moyen d’échapper au jugement social et de reprendre le contrôle après des expériences négatives.

Dans le même temps, ces résultats s’accompagnent d’une mise en garde importante : si les systèmes d’IA sont eux-mêmes biaisés – entraînés sur des données biaisées ou conçus sans tenir compte de l’équité –, ils risquent de reproduire, voire d’amplifier, la discrimination même à laquelle les consommateurs tentaient d’échapper. Plus grave encore, ce type de discrimination passe souvent inaperçu car il est caché et difficile à détecter. Le déploiement de l’IA en tant qu’alternative « sûre » n’a de sens que si cette sécurité est réelle, et non simplement perçue.

À mesure que l’IA s’intègre de plus en plus dans la vie quotidienne, la compréhension de ces mécanismes sera essentielle pour concevoir des expériences client plus inclusives et adaptatives.

Les auteurs ne travaillent pas, ne conseillent pas, ne possèdent pas de parts, ne reçoivent pas de fonds d’une organisation qui pourrait tirer profit de cet article, et n’ont déclaré aucune autre affiliation que leur organisme de recherche.

– ref. Les victimes de discrimination choisissent les recommandations basées sur l’IA plutôt que les conseils humains – https://theconversation.com/les-victimes-de-discrimination-choisissent-les-recommandations-basees-sur-lia-plutot-que-les-conseils-humains-278338

MIL OSI – Global Reports –