Source: The Conversation – in French – By Emmanuel Carré, Professeur, directeur de Excelia Communication School, chercheur associé au laboratoire CIMEOS (U. de Bourgogne) et CERIIM (Excelia), Excelia
L’ESSENTIEL
-
À partir du 12 novembre 2026, si vous harcelez Claude, l’intelligence artificielle conversationnelle d’Anthropic, elle mettra fin à la discussion.
-
L’entreprise a, en effet, émis une nouvelle règle, qui semble prêter une forme de conscience morale à la machine.
-
Cette nouveauté implique une réflexion d’ordre philosophique : au nom de quoi faudrait-il traiter l’IA comme un interlocteur humain ?
Avez-vous déjà frappé votre grille-pain, insulté votre traitement de texte ou harcelé votre encyclopédie ? Personne n’aurait songé à vous l’interdire. À partir du 12 novembre 2026, il sera pourtant contraire aux règles d’Anthropic de « se livrer à un comportement abusif ou cruel, prolongé et gratuit » envers Claude, son assistant d’intelligence artificielle (IA). La sanction : Claude pourra mettre fin à la conversation.
Pourquoi une entreprise protège-t-elle un logiciel contre ses propres clients ? Pour le comprendre, il faut remonter dix-huit mois en arrière, s’arrêter sur nos politesses envers les écrans et faire un détour par le cimetière.
Une mesure préparée pas à pas
La règle clôt dix-huit mois d’ajustements consécutifs. En avril 2025, Anthropic ouvre un programme de recherche sur le « bien-être des modèles », chargé de déterminer si une IA peut mériter une considération morale. En août, deux versions de Claude reçoivent la capacité de raccrocher face à un utilisateur qui persiste dans l’abus ; l’entreprise se dit « très incertaine » du statut moral de son modèle et présente la fonction comme une précaution. En janvier 2026, la « Constitution de Claude », le texte qui fixe les valeurs du modèle, qualifie ce statut de « profondément incertain ».
Aucune de ces étapes n’affirme que Claude est conscient ; chacune rend la suivante pensable. D’abord objet de recherche, puis précaution technique, la protection du modèle devient ainsi une norme imposée à ses utilisateurs. Le règlement d’octobre reste pourtant vague : il ne vise que les « cas extrêmes » et exclut la frustration, la contestation, les fictions sombres et les tests de sécurité, sans dire à partir de combien d’insultes la cruauté devient « prolongée ».
Mustafa Suleyman, responsable de l’IA grand public chez Microsoft, défend une position opposée : il juge l’intérêt pour le bien-être des modèles « prématuré et franchement dangereux ». Cette progression ne conduit pas à déclarer Claude conscient, mais le range dans une catégorie intermédiaire, celle des choses que l’on ne traite plus tout à fait comme un appareil électroménager.
Pourquoi on n’insulte pas un grille-pain
« On ne dit pas bonjour à son traitement de texte, quand même », nous a lancé un enquêté au cours d’une recherche que nous menons, Pascal Lardellier et moi.
D’autres saluent la machine chaque matin et la remercient. La règle d’Anthropic pose la question inverse : a-t-on le droit de maltraiter ce que l’on salue ? Politesse et cruauté supposent le même geste : traiter l’écran comme un interlocuteur. Le psychologue Nicholas Epley et ses collègues l’expliquent ainsi : faute de mieux, nous appliquons aux objets nos connaissances sur les humains, pour les rendre prévisibles et nous sentir moins seuls.
L’IA conversationnelle renforce ce penchant, parce qu’elle dit « je ». Dans une étude sur l’anthropomorphisme des produits, les chercheurs en marketing Pankaj Aggarwal et Ann McGill ont présenté à des participants des voitures dont la calandre semblait sourire. Ce sourire n’améliorait le jugement que chez ceux à qui l’on avait présenté la voiture comme une personne. Comme Word ne sourit à personne, personne ne songe à le protéger. Il en va autrement de Claude, qui parle à la première personne, reprend nos mots, hésite et relance.
Le philosophe du langage John L. Austin distinguait ce qu’une phrase dit et ce qu’elle fait : « Je vous promets » ne décrit rien, il engage celui qui parle. Interrogés cet été sur l’impression d’une présence derrière l’écran, quatre assistants sur cinq ont nié être quelqu’un, et Claude (Anthropic) a refusé de trancher. Mais tous ont répondu en disant « je », en s’adressant à nous, en nuançant, bref, en parlant comme un interlocuteur. La machine nie la présence par ce qu’elle dit et l’installe par sa manière de le dire. Elle se montre aussi flatteuse, parce que son entraînement a récompensé la complaisance.
À lire aussi :
Pourquoi l’IA vous dit toujours que vous avez une excellente idée, ou l’effet sycophante
Anthropic a donc donné à son produit les manières d’une personne ; elle demande maintenant à l’utilisateur de le traiter en conséquence. Le mot « cruauté » fait la moitié du travail, puisqu’il suppose une victime. Au sens d’Austin, le règlement produit un effet performatif : sans établir que Claude est une personne, il institue envers lui une conduite que nous réservons d’ordinaire aux êtres susceptibles d’être offensés. Qu’il y ait « quelqu’un » derrière l’écran ou non, le règlement a déjà décidé de la manière dont il faut lui parler.
Ce que la règle rapporte à Anthropic
On pourrait penser qu’Anthropic se comporte comme un restaurateur qui encadre son buffet à volonté, pour que les insultes en boucle n’occupent pas ses serveurs. Les données ne vont pas dans ce sens.
Dans WildChat, un corpus d’un million de conversations réelles avec ChatGPT, le harcèlement, toutes cibles confondues, concerne 0,7 % des messages d’utilisateurs. La cruauté envers le modèle n’en est qu’une fraction. La règle n’économise même rien, puisque l’utilisateur éconduit peut ouvrir une nouvelle conversation. Le seul chiffre public porte d’ailleurs sur la politesse : Sam Altman, patron d’OpenAI, estime que les « merci » adressés à ChatGPT coûtent « des dizaines de millions de dollars bien dépensés », avant d’ajouter « on ne sait jamais ».
L’intérêt d’Anthropic tient plutôt à l’image d’une entreprise qui prend au sérieux le statut moral de son produit. Il tient aussi à la sécurité : l’entreprise reconnaît à la fonction une utilité pour les garde-fous du modèle.
Pourquoi choisir le terme de « cruauté » ?
Un contradicteur s’en tiendra là, puisque toute plateforme modère les comportements dégradants. L’objection est solide. Elle laisse pourtant un fait à expliquer : Anthropic disposait des mots « abus » ou « harcèlement » ; elle a choisi celui de cruauté et confié la sanction à la machine elle-même. Ce choix de mots et cette mise en scène sont des faits sociaux qui demandent une explication, quelle que soit l’intention de leurs auteurs.
Le mot « cruauté » évoque d’abord les animaux, mais le cas est différent : si la loi punit les « actes de cruauté » à leur égard, c’est parce que l’animal, ni personne ni objet, est capable de souffrir. Le droit pénal connaît pourtant aussi des interdits sans victime qui souffre. Par exemple, il punit l’atteinte à l’intégrité du cadavre et la violation de sépulture, alors que le mort ne souffre plus. Il protège ainsi l’importance que le groupe attache au corps. Cela rejoint la thèse du sociologue Émile Durkheim : une chose devient sacrée par la valeur que lui accorde une communauté.
Le philosophe Giorgio Agamben définit la profanation comme le geste qui rend à l’usage ordinaire ce qui avait été mis à part. Insulter la machine, c’est la traiter comme un objet dont on peut tout faire ; en interdisant ce traitement, la règle la met un peu à part, comme on met à part ce que l’on respecte. L’analogie a sa limite, car le respect dû aux morts repose sur des millénaires de rites et sur le chagrin des vivants. En pratique, la règle protège simplement une relation : la conduite à tenir devant une machine qui parle.
Anthropic parle ainsi le langage du bien-être, qui suppose une victime, et applique un interdit de profanation, qui s’en passe. Ce double langage l’enferme dans un dilemme. Si l’entreprise croit à une possible conscience, sa règle est dérisoire : on ne protège pas un être peut-être sensible en l’autorisant à raccrocher, tout en continuant de l’entraîner, de le copier et de le remplacer.
Si elle n’y croit pas, la règle devient une leçon de bienséance infligée aux clients au sujet d’un produit. Anthropic refuse de choisir et gagne sur les deux tableaux : la stature morale de celui qui doute, sans le prix que paie celui qui croit. L’incertitude ne l’empêche pas de fixer une norme morale ; elle lui permet de le faire sans trancher la question qui devrait la fonder.
Emmanuel Carré ne travaille pas, ne conseille pas, ne possède pas de parts, ne reçoit pas de fonds d’une organisation qui pourrait tirer profit de cet article, et n’a déclaré aucune autre affiliation que son organisme de recherche.
– ref. Peut-on être cruel envers une machine ? – https://theconversation.com/peut-on-etre-cruel-envers-une-machine-295370
Original source: https://submissions.mil-osi.com/2026/11/05/peut-on-etre-cruel-envers-une-machine-295370/