Faut-il acheter une IA plus fiable, ou payer pour la corriger ?

Source: The Conversation – in French – By Engin Iyidogan, Professor de finance, SKEMA Business School

L’ESSENTIEL

Pour limiter les erreurs de l’intelligence artificielle (IA), les entreprises peuvent s’offrir un modèle plus fiable ou renforcer leur processus de vérification de ses réponses.
Comme le souligne une recherche, cet arbitrage dépend essentiellement de la valeur stratégique de leurs usages.
Une traduction maladroite d’une réunion en interne utilisée en marketing n’a pas le même poids qu’un mauvais conseil juridique.

En pratique, toute entreprise qui déploie un assistant conversationnel se heurte tôt ou tard au même problème : l’outil produit une réponse fausse, mais formulée avec assurance. On appelle cela une « hallucination » ; une réponse plausible contient une information inventée.

Le premier réflexe ? Changer d’outil en choisissant un modèle plus récent, plus cher et réputé plus fiable. L’autre voie consiste à conserver son modèle bon marché et à faire relire ses réponses par un humain. Les deux démarches visent le même résultat : moins de réponses erronées transmises au client. Les deux ont un coût. Dans une étude récente, nous modélisons ce choix.

Cet arbitrage est déjà très concret. La Banque de France observe une diffusion très large de ces outils dans les entreprises françaises, même si leurs gains de productivité restent limités.

Payer le modèle ou payer la relecture

Il faut déjà le préciser : choisir un modèle plus fiable ne supprime pas le travail de contrôle. Une étude parue en 2025 a testé des outils juridiques professionnels présentés « sans hallucination ». Dans les tests, entre 17 % et 33 % des réponses contenaient des informations fausses ou attribuaient à une source des affirmations qu’elle n’étayait pas.

Ce contrôle peut prendre plusieurs formes : adosser l’outil à une base de sources validées, produire plusieurs réponses et ne garder que celles qui concordent ou faire relire la réponse par un salarié. Aucune de ces méthodes n’est gratuite. Chacune mobilise des ressources de calcul ou du temps de travail.

Notre modèle met en regard ces deux dépenses. D’un côté, le coût d’accès au modèle payé à son fournisseur. De l’autre, le coût du contrôle organisé par l’entreprise elle-même. Dans les deux cas, l’entreprise achète la même chose : de la fiabilité.

Mais quelle solution revient le moins cher ?

Point de bascule

Notre exemple illustre un point de bascule possible. Lorsque les usages à portée stratégique deviennent plus fréquents, payer davantage pour un modèle plus fiable peut devenir préférable à un modèle bon marché assorti d’un contrôle plus poussé. La réduction du risque d’erreur justifie le surcoût.

Ce qui déclenche cette bascule, dans notre modèle, n’est pas l’arrivée d’une génération de modèles plus performants, mais la composition des usages de l’entreprise, c’est-à-dire la part de ses requêtes pour lesquelles une réponse fausse coûte réellement cher.

Plus la part des usages à fort enjeu est grande, plus l’effort de vérification nécessaire est important, et donc coûteux. Deux entreprises équipées du même outil peuvent avoir intérêt à faire des choix opposés. Utiliser cet outil dans un service client généraliste ou dans un service de conformité n’expose pas aux mêmes risques.

Encore faut-il préciser ce qu’est un « fort enjeu ». Deux ordres de grandeur se cachent derrière ce mot, et notre modèle les sépare : ce que rapporte une bonne réponse d’une part, et ce que coûte une réponse fausse d’autre part. La seconde porte un nom, l’« aversion aux hallucinations », et elle ne se déduit pas de la première. Deux services peuvent gagner le même temps sur un premier jet.

Alors qu’une formule marketing maladroite se réécrit, une réponse fausse sur une obligation réglementaire se paie. C’est cette seconde grandeur qui range les usages à fort enjeu : le conseil juridique, la santé et l’octroi de crédit tout en haut de l’échelle, la traduction interne ou le résumé de réunion tout en bas. Le tri de candidatures, lui, occupe une position plus inconfortable. Le gain attendu y est modeste, le coût d’une erreur ne l’est pas.

Faire soi-même ou faire faire

Reste à savoir qui exécute ce contrôle : soit l’entreprise elle-même, soit un prestataire qui lui vend un service déjà vérifié. Une étude portant sur 3 143 entreprises souligne que les entreprises européennes font souvent les deux à la fois, achetant des solutions prêtes à l’emploi et développant leurs propres outils en interne.

Notre modèle éclaire ce dosage minutieux. Quand le contrôle est externalisé, la facture couvre trois éléments : l’accès à l’intelligence artificielle, le travail de vérification et la marge économique du prestataire.

La marge du prestataire peut sembler n’être qu’un supplément négociable ; c’est tout le contraire. Pour le client, négocier pour baisser cette marge revient à acheter une autre prestation moins cher parce que le contrôle y est moins poussé.

Ce que notre modèle ne dit pas

Le contrôle en interne soulève une question distincte que notre modèle ne tranche pas.

Si l’entreprise cherche à éviter de payer la marge d’un prestataire, elle doit encore organiser et suivre le travail de vérification. L’internalisation ne garantit pas, à elle seule, sa qualité. Le travail de vérification ne disparaît jamais ; il change de forme. Facturé par le prestataire, ce dernier devient du temps de travail en interne que les budgets isolent rarement en tant que tel.

Si l’entreprise repère l’erreur, elle sanctionne son prestataire. Mais que se passe-t-il lorsqu’elle ne la repère pas ?

Le risque est réel, car une hallucination est précisément une réponse fausse qui a l’air juste. Or, dans notre modèle, le prestataire vérifie parce qu’il craint de perdre le contrat et la marge qu’il en tire. Si le client laisse passer les erreurs, cette crainte s’estompe. Le prestataire peut alors relâcher son contrôle sans que cela se voie.

Notre modèle ne prend en compte que les erreurs qui coûtent à l’entreprise. Une réponse fausse peut pourtant nuire à d’autres : un client mal renseigné, un candidat écarté à tort, etc. Reste à savoir qui paiera les pots cassés.

Engin Iyidogan ne travaille pas, ne conseille pas, ne possède pas de parts, ne reçoit pas de fonds d’une organisation qui pourrait tirer profit de cet article, et n’a déclaré aucune autre affiliation que son organisme de recherche.

– ref. Faut-il acheter une IA plus fiable, ou payer pour la corriger ? – https://theconversation.com/faut-il-acheter-une-ia-plus-fiable-ou-payer-pour-la-corriger-288222

MIL OSI – Global Reports –