Source: The Conversation – in French – By Bernd Stahl, Professor of Critical Research in Technology, School of Computer Science, University of Nottingham
Les appels à la modération individuelle ne suffiront peut-être pas. Face aux risques d’usage compulsif de l’IA générative, chercheurs, régulateurs, entreprises et société civile pourraient devoir agir de concert.
Lorsque je discute avec mon fils, élève ingénieur, et qu’une question ou un désaccord surgit, son premier réflexe est de se tourner vers ChatGPT pour obtenir une information ou confirmer ce qu’il pense.
Il est loin d’être le seul. L’usage des outils d’IA générative s’est généralisé dans de nombreux groupes de population. Pour beaucoup, ces outils sont divertissants, instructifs et utiles. Mais ils ont aussi leur face sombre.
À ce jour, l’IA générative n’est pas officiellement reconnue comme une addiction : les preuves médicales sont encore en cours d’évaluation. Mais un nombre important d’études montre qu’un usage intensif des chatbots et d’autres systèmes capables de produire du texte, des images ou des vidéos entraîne des modifications de l’activité cérébrale et des comportements associés aux mécanismes de l’addiction.
À la lumière de la condamnation récente de Meta et de YouTube dans un procès historique portant sur l’addiction aux réseaux sociaux, il est légitime de se demander si un raisonnement similaire ne devrait pas s’appliquer à l’IA générative – et comment y répondre. La première étape consiste à déterminer qui porte la responsabilité de son usage excessif.
Le débat scientifique est loin d’être tranché et certains appellent à la prudence avant d’employer le terme d’« addiction ». Ils préfèrent parler d’« usage problématique ». Toutefois, dans un récent article scientifique, notre équipe de recherche montre que de nombreux éléments indiquent que l’IA générative possède des propriétés susceptibles de favoriser des comportements addictifs.
Parmi les exemples les plus souvent cités figurent la dépendance affective envers des compagnons conversationnels, l’engagement compulsif dans les échanges avec ces outils, ainsi que l’affaiblissement des relations et des amitiés dans le monde réel.
Un élément essentiel est que, comme pour toute addiction, ce comportement entraîne des conséquences négatives pour la personne concernée, susceptibles d’affecter aussi bien sa vie personnelle que sa vie professionnelle.
Si l’on considère que l’IA générative est susceptible de provoquer des comportements addictifs, il faut alors s’interroger sur les responsabilités. Face à un phénomène préjudiciable, les sociétés cherchent généralement à identifier les personnes ou les organisations chargées d’y répondre. Les acteurs susceptibles d’être tenus responsables sont notamment les législateurs, les autorités de régulation, les entreprises du secteur et les systèmes de santé.
Des précédents historiques
Des précédents historiques, comme celui du tabagisme, peuvent éclairer la manière dont la question de l’addiction à l’IA générative pourrait évoluer.
Les lecteurs les plus âgés se souviennent peut-être de l’époque où le cow-boy Marlboro apparaissait à l’écran avant les séances de cinéma. On a fini par découvrir que non seulement le tabac était addictif et nocif pour la santé, mais aussi que les fabricants de cigarettes en avaient connaissance. Pourtant, ils l’ont publiquement nié.
Cette situation a donné lieu à des procédures judiciaires longues et très médiatisées, qui se sont soldées par d’importantes indemnisations financières ainsi que par de profondes réformes du secteur. Parmi elles figurent l’introduction des paquets de cigarettes neutres et l’apposition de messages d’avertissement particulièrement explicites sur les produits du tabac.
Les jeux d’argent semblent aujourd’hui suivre une trajectoire comparable. Quant aux réseaux sociaux, ils pourraient être en train d’entrer, eux aussi, dans une phase similaire.
Une question centrale est de savoir si les fabricants d’un produit (qu’il s’agisse du tabac, des jeux d’argent ou des réseaux sociaux) ont connaissance de son potentiel addictif. Une autre interrogation importante est de déterminer si certaines entreprises exploitent délibérément les propriétés potentiellement addictives de leurs produits pour en tirer un avantage commercial. L’IA n’est évidemment pas le tabac, mais ces précédents offrent des parallèles qui méritent d’être étudiés.
Dans nos travaux, nous avons identifié quatre catégories d’acteurs aujourd’hui appelées à répondre aux défis que pose la possibilité d’une addiction à l’IA générative. Le premier groupe est celui des gouvernements et des autorités de régulation. Ils ont un rôle essentiel à jouer pour mettre en lumière les problèmes, définir les règles du jeu et créer des incitations afin que les autres acteurs s’emparent eux aussi de cette question.
Ils disposent pour cela de nombreux leviers : imposer un étiquetage, encadrer la publicité, engager la responsabilité juridique des entreprises, financer la recherche, ainsi que de nombreuses autres mesures. Mais les acteurs les plus déterminants pour répondre aux comportements potentiellement addictifs liés à l’IA générative sont sans doute les grandes entreprises technologiques qui développent et possèdent ces technologies – et qui en tirent des bénéfices financiers.
Ces entreprises détiennent et ont accès aux données des utilisateurs, indispensables pour identifier les fonctionnalités qui favorisent ou, au contraire, limitent les comportements addictifs. Ce sont également elles qui peuvent tirer un avantage financier d’une éventuelle addiction, en augmentant le nombre d’utilisateurs et le temps qu’ils consacrent à leurs services, deux ressources essentielles de l’économie numérique.
Aux côtés de ces deux premiers groupes, les chercheurs ont un rôle crucial à jouer. Ils sont chargés de recueillir et d’interpréter les données, ainsi que de produire les preuves scientifiques nécessaires pour identifier les phénomènes d’addiction et les caractéristiques qui les favorisent, afin d’alimenter un débat politique et juridique fondé sur des éléments factuels.
Enfin, les organisations de la société civile, comme les associations d’usagers ou de patients, peuvent contribuer en apportant un soutien aux personnes concernées, en défendant leurs intérêts et en mettant en place des dispositifs d’alerte précoce. L’enjeu est que nul ne peut relever ce défi seul. Tous ces acteurs devront travailler ensemble.
Le problème, c’est toujours celui des autres
Aujourd’hui, l’un des principaux obstacles est l’absence d’un véritable débat structuré sur les responsabilités : chacun considère que le problème relève de quelqu’un d’autre. Pourtant, de nombreux précédents montrent qu’il est possible d’obtenir une mobilisation plus forte de l’ensemble des acteurs concernés.
Dans le cas du tabac, l’Organisation mondiale de la santé (OMS) a mis en place la Convention-cadre pour la lutte antitabac, un traité international réunissant gouvernements, autorités de santé publique, chercheurs et organisations de la société civile afin d’évaluer les preuves scientifiques et d’élaborer des règles communes. De la même manière, l’International AI Safety Report montre que des initiatives internationales visant à construire un consensus existent déjà sur d’autres enjeux liés à l’IA.
Une part de responsabilité incombe également aux utilisateurs de l’IA, qui doivent s’efforcer d’éviter ou de maîtriser les comportements susceptibles de leur être préjudiciables. Mais l’expérience acquise avec d’autres formes d’addiction montre que les appels à la modération ou à la vigilance individuelle ne suffisent pas.
Si les effets nocifs du tabac ou de l’abus d’alcool sont aujourd’hui bien connus, nos sociétés continuent de s’appuyer sur des limites d’âge, des règles d’étiquetage et des restrictions publicitaires. L’IA générative est en train de s’intégrer au tissu même de notre quotidien. Les décisions que nous prenons aujourd’hui façonneront ce qui sera considéré comme un usage acceptable pour les années à venir.
Bernd Stahl ne travaille pas, ne conseille pas, ne possède pas de parts, ne reçoit pas de fonds d’une organisation qui pourrait tirer profit de cet article, et n’a déclaré aucune autre affiliation que son organisme de recherche.
– ref. Si l’IA générative favorise l’addiction, qui doit rendre des comptes ? – https://theconversation.com/si-lia-generative-favorise-laddiction-qui-doit-rendre-des-comptes-284851