Source: The Conversation – in French – By Rachel Weldrick, Assistant Professor, Political Science, Concordia University
Les aînés sont exclus des décisions concernant le déploiement de l’intelligence artificielle.
De nombreuses personnes âgées sont hautement qualifiées, éprouvent de la curiosité à l’égard des technologies émergentes et sont désireuses d’en savoir plus sur l’IA ; elles s’intéressent au potentiel que celle-ci représente pour notre société. Toutefois, des études montrent que de nombreux employeurs continuent de croire que les employés âgés maîtrisent mal les outils technologiques.
Par conséquent, les personnes âgées voient souvent des occasions d’emploi leur échapper ou ne sont pas prises en considération pour des promotions, même lorsqu’elles possèdent les compétences, la formation et l’expertise requises.
Cet article fait partie de notre série La Révolution grise. La Conversation vous propose d’analyser sous toutes ses facettes l’impact du vieillissement de l’imposante cohorte des boomers sur notre société. Manières de se loger, de travailler, de consommer la culture, de s’alimenter, de voyager, de se soigner, de vivre… découvrez avec nous les bouleversements en cours, et à venir.
L’industrie de l’IA constitue un bon exemple à cet égard. Plutôt que de refléter toute la diversité des utilisateurs potentiels, son personnel est principalement composé de jeunes hommes. Elle risque donc de concevoir des applications et des outils qui reproduisent les préjugés propres à cette catégorie démographique.
Selon un nombre croissant d’études, les personnes âgées sont systématiquement sous-représentées dans les processus de développement des modèles d’IA. Cette lacune rend ces systèmes moins efficaces lorsqu’il s’agit de reconnaître les besoins ou les préférences des utilisateurs âgés et d’y répondre.
Par exemple, une étude portant sur les images générées par l’IA a révélé que les photos de personnes âgées sont systématiquement moins lumineuses et moins nettes que celles où l’on voit des jeunes.
Des expériences vécues du vieillissement
À l’Université Concordia, nous venons de terminer un projet d’engagement communautaire d’une durée d’un an qui a consisté à recueillir les points de vue et les réflexions de personnes âgées sur l’avenir du vieillissement à l’ère de l’IA. Ce projet s’inscrit dans le cadre d’une recherche interdisciplinaire collaborative plus vaste dans le domaine de l’IA menée à Concordia.
Selon nos résultats préliminaires, les personnes âgées craignent que les outils d’IA axés sur le vieillissement — tels que la détection des chutes ou les dispositifs de surveillance cognitive — soient conçus par de jeunes développeurs qui considèrent le vieillissement comme un phénomène à traiter ou à gérer, voire à prévenir.
L’industrie de la santé et du mieux-être, en particulier, met au point de nouvelles applications et de nouveaux outils d’IA à un rythme effréné — et de plus en plus de ces outils sont conçus en fonction des personnes âgées, des corps vieillissants et des personnes aidantes. Si bon nombre de ces outils offrent des avantages tels que le diagnostic précoce des maladies, le suivi des symptômes et la promotion de la santé, ils ne sont pas sans présenter des inconvénients d’ordre pratique et éthique.
(Unsplash/Enchanted Tools)
La qualité des soins et la transparence sont primordiales. Selon une étude récente sur le recours à l’IA pour la prise de décision en matière de soins de santé, certaines personnes âgées sont sceptiques quant à la capacité de cette technologie à comprendre des besoins complexes liés aux soins et préfèrent généralement l’interaction humaine à celle avec l’IA.
Les personnes âgées participant à cette étude étaient également fermement convaincues que le recours à l’IA devrait être transparent et reposer sur un consentement éclairé. En d’autres termes, ces personnes souhaitent décider elles-mêmes quand et où elles interagissent avec l’IA.
Les participantes et participants à notre projet d’engagement communautaire ont formulé des préoccupations similaires. Plusieurs membres âgés de la communauté ont souligné l’importance de la transparence pour tout ce qui touche l’IA. Certains ont même donné des exemples de situations où ils avaient interagi avec des agents conversationnels intelligents, notamment pour obtenir de l’aide en matière de services bancaires en ligne, en croyant échanger avec une personne réelle.
Ils estiment que leurs expériences vécues du vieillissement ainsi que leurs points de vue uniques ne font pas partie des données utilisées pour entraîner les nouveaux outils d’IA. Leurs réalités ne sont pas non plus prises en compte au départ pour déterminer quels types d’outils d’IA sont développés.
Devant ces faits, une question s’impose : qui prend les décisions en matière d’IA, et pour qui ?
Fraudes par IA ciblant les personnes âgées
Bon nombre de nos participantes et participants ont mentionné la fraude comme un excellent exemple de ce déséquilibre.
Les fraudes par IA ciblent souvent les personnes âgées, en partie parce qu’elles sont considérées comme plus portées à faire confiance aux gens que les jeunes adultes.
Récemment, par exemple, un faux article de la CBC s’est mis à circuler dans les médias sociaux. Sur les photos accompagnant l’article, on voyait la journaliste canadienne Adrienne Arsenault interviewer le magnat de l’industrie alimentaire Galen Weston Jr., qui semblait quitter précipitamment les lieux au beau milieu de l’échange. Or, cet événement n’a jamais eu lieu. Les images ont été générées par l’IA et la frauduleuse nouvelle visait à escroquer le public en faisant la promotion d’une fausse plate-forme d’investissement.
Certaines personnes ayant participé à notre dialogue ont suggéré que l’IA elle-même pourrait être conçue pour aider les gens à repérer ce type de fraude avant qu’elle ne se produise. Ils ont également fait remarquer que personne ne leur avait demandé leur avis sur la manière de lutter contre la fraude, alors qu’ils en sont les principales victimes.
Conçu avec, et non pour, les personnes âgées
Ce que demandent les aînés n’a rien de compliqué. Ils veulent avoir leur mot à dire sur le type d’IA qui est développée, sur les données utilisées pour l’entraîner et sur la manière dont elle est régie.
Ils souhaitent disposer de moyens accessibles pour acquérir des compétences en matière d’IA, idéalement par l’intermédiaire d’organismes auxquels ils font déjà confiance, comme les groupes communautaires et les écoles. Plusieurs personnes ont suggéré des cours de courte durée offerts dans les bibliothèques plutôt que de nouvelles applications à télécharger, estimant que l’apprentissage en personne serait plus efficace.
Plusieurs bibliothèques publiques, dont la Bibliothèque de Toronto, offrent déjà des programmes d’initiation à l’IA parallèlement à leurs cours habituels sur les compétences numériques.
Déjà des milliers d’abonnés à l’infolettre de La Conversation. Et vous ? Abonnez-vous gratuitement à notre infolettre pour mieux comprendre les grands enjeux contemporains.
Les participantes et participants ont également exprimé leur malaise et leur inquiétude devant la situation que vivent d’autres groupes de la population : ils craignent que les artistes ne perdent le contrôle de leur travail au profit de l’IA générative, et souhaitent que les gens de tous âges (et pas seulement les aînés) puissent parfois simplement « rester en mode analogique ».
La question n’est pas vraiment de savoir si les aînés peuvent suivre le rythme de l’évolution de l’IA. Bon nombre d’entre eux s’y efforcent. Il s’agit plutôt de savoir si les personnes qui conçoivent, entraînent et régissent ces systèmes sont disposées à les concevoir en collaboration avec les aînés, plutôt que de les développer pour eux.
Les aînés souhaitent avoir leur mot à dire sur l’avenir de l’IA.
Rachel Weldrick bénéficie d’un financement de l’Institut d’IA appliquée de l’Université Concordia.
– ref. Quelle que soit son évolution, les aînés veulent avoir leur mot à dire sur l’IA – https://theconversation.com/quelle-que-soit-son-evolution-les-aines-veulent-avoir-leur-mot-a-dire-sur-lia-287730