Hallucinations de l'IA : les réduire avec une IA encadrée

Qu’est-ce qu’une hallucination ?

Une hallucination est une réponse fausse donnée avec assurance par une IA. Le texte est fluide, le ton est sûr, mais le fait est inventé : un chiffre, une date, une référence, une règle.

OpenAI en donne un exemple frappant. Interrogé sur le titre de la thèse de l’un des chercheurs de l’entreprise, un chatbot très populaire a proposé trois titres différents. Tous faux.

Pour un dirigeant, le danger tient en une phrase : une erreur bien rédigée ressemble à une bonne réponse.

Pourquoi les modèles inventent

Un modèle de langage apprend en lisant d’énormes quantités de texte. Il apprend à prédire le mot le plus probable, pas à distinguer le vrai du faux. Ce qui suit une logique, comme l’orthographe, finit par être bien appris. Les faits rares et arbitraires, comme une date d’anniversaire, ne se devinent pas.

En septembre 2025, OpenAI a publié une étude qui ajoute une explication. L’entraînement et l’évaluation des modèles récompensent davantage une réponse au hasard qu’un aveu d’ignorance. C’est comme un QCM sans points négatifs : répondre au hasard rapporte parfois un point, ne rien répondre rapporte toujours zéro.

Le même article publie une comparaison parlante entre deux modèles. Le premier s’abstient de répondre dans 52 % des cas et commet 26 % d’erreurs. Le second répond presque toujours et commet 75 % d’erreurs, pour une exactitude à peine supérieure (24 % contre 22 %). Savoir dire « je ne sais pas » réduit fortement les erreurs.

Ce que coûte une réponse inventée

En février 2024, un tribunal canadien a donné tort à Air Canada. Son chatbot avait donné à un client une information erronée sur un tarif réduit. La compagnie soutenait que le chatbot répondait de ses propres propos. Le tribunal a rejeté l’argument : l’entreprise reste responsable de toutes les informations de son site, y compris celles de son assistant.

En France, les juridictions ont commencé à relever des références de jurisprudence inexactes ou inexistantes dans les écritures des parties. Selon une analyse du cabinet Morgan Lewis publiée en mars 2026, le tribunal administratif d’Orléans a invité un avocat à vérifier que ses références n’étaient pas des « hallucinations ». Le tribunal administratif de Rennes a rejeté des requêtes manifestement rédigées à l’aide d’une IA.

Pour une PME, une hallucination n’est pas un simple bug. C’est un engagement pris au nom de l’entreprise.

Brancher ses documents ne suffit pas

La solution la plus répandue consiste à relier l’IA à des documents choisis. On parle de « recherche augmentée » (RAG, en anglais) : l’IA cherche d’abord dans vos documents, puis rédige sa réponse.

C’est un progrès, pas une garantie. En 2024, des chercheurs de Stanford ont testé des outils de recherche juridique qui fonctionnent ainsi. Ils se trompaient encore dans plus de 17 % des cas, et même dans plus de 34 % des cas pour l’un d’eux. C’est mieux que les chatbots généralistes, qui se trompaient dans 58 % à 82 % des cas sur des questions juridiques lors d’une étude antérieure. Mais on reste loin du zéro défaut.

La méthode de l’IA encadrée

L’IA encadrée est la méthode que nous appliquons chez Libreo. Elle vient de l’IA des linguistes, celle des règles et des dictionnaires, associée aux modèles d’aujourd’hui. Son principe : vos règles d’abord, le modèle ensuite.

Un périmètre et des sources délimitées

Chaque agent a une mission précise. Il ne puise que dans des sources validées avec vous : dictionnaires métier, bases de connaissance, documents internes. Chez Yoocancare, quatre assistantes IA accompagnent plus de 900 apprenants. Celle qui explique les leçons répond uniquement à partir des contenus de la formation. Si la question sort du programme, elle oriente vers la formatrice.

Des règles écrites et des calculs faits par du code

Ce qui doit toujours, ou jamais, être fait est écrit à l’avance et testé. Les calculs ne sont pas confiés au modèle : ils sont faits par du code, au centime près. C’est le cas de notre agent d’analyse comptable, en production : il contrôle la cohérence de la TVA et signale les écarts. L’expert-comptable garde la décision.

Un raisonnement imposé et le droit de dire « je ne sais pas »

Les étapes sont fixées : vérifier la demande, chercher la source, appliquer la règle, puis répondre en citant la source. Si l’information manque, l’agent le dit et passe la main à un humain. C’est précisément le comportement que l’étude d’OpenAI invite à encourager.

	Assistant IA générique	Agent encadré
Ce qu’il sait	Tout ce qu’il a lu, sans distinction	Vos sources, validées et délimitées
Quand il ne sait pas	Il peut inventer une réponse plausible	Il le dit et passe la main
Les calculs	Estimés par le modèle	Faits par du code
La vérification	Difficile	Chaque réponse cite sa source

Le résultat : beaucoup moins d’hallucinations, et des erreurs restantes faciles à repérer, puisque chaque réponse indique d’où elle vient. La méthode fonctionne aussi avec une IA installée chez vous, sur vos propres documents.

5 questions à poser avant de déployer un assistant

Sur quelles sources répond-il ? Une liste fermée de documents, ou tout ce que le modèle a appris ?
Que fait-il quand il ne sait pas ? Il doit pouvoir le dire et transmettre à un humain.
Cite-t-il ses sources ? Une réponse sans source est une réponse invérifiable.
Qui fait les calculs ? Un montant, une échéance ou un taux doivent venir du code, pas d’une estimation.
Comment est-il testé ? Un jeu de questions de référence, rejoué à chaque évolution, montre si la qualité tient.

Moins d’erreurs, c’est moins de temps de vérification : c’est le cœur du valuemaxxing. Pour chiffrer ce gain, voir notre article sur le ROI d’un agent IA.

Questions fréquentes

Peut-on supprimer totalement les hallucinations ?

Non. OpenAI le reconnaît : c’est un problème encore insoluble pour les modèles de langage. On peut en revanche les réduire fortement et les rendre visibles, grâce à des sources citées et à des règles qui autorisent l’IA à dire « je ne sais pas ».

Relier l’IA à mes documents suffit-il ?

C’est utile mais insuffisant. Selon Stanford, des outils juridiques qui fonctionnent ainsi se trompaient encore dans plus de 17 % des cas. Il faut y ajouter un périmètre clair, des règles écrites et une vérification systématique des sources.

Qui est responsable si l’IA se trompe ?

L’entreprise qui l’utilise. Dans l’affaire Air Canada, le tribunal a jugé que la compagnie restait responsable des informations données par son chatbot. D’où l’intérêt de prévoir, dès la conception, ce que l’IA fait seule et ce qui attend une validation humaine.

Hallucinations de l’IA : les réduire avec une IA encadrée.