8 juin 2026
1. Présentation générale
L’hallucination est l’un des phénomènes les plus étudiés et les plus débattus dans le domaine de l’intelligence artificielle générative. Elle désigne la situation dans laquelle un système d’IA produit une information fausse, inexacte, trompeuse ou entièrement inventée tout en la présentant comme crédible, cohérente ou factuelle.
Contrairement à une erreur classique résultant d’un dysfonctionnement informatique, l’hallucination constitue une caractéristique intrinsèque de nombreux modèles d’intelligence artificielle générative, en particulier des grands modèles de langage (Large Language Models ou LLM) tels que ChatGPT, Claude, Gemini, Mistral ou d’autres systèmes reposant sur des architectures similaires.
Les hallucinations peuvent prendre des formes très diverses :
- invention de faits ;
- création de références juridiques inexistantes ;
- attribution erronée de citations ;
- invention de décisions de justice ;
- erreurs sur les dates ou les chiffres ;
- interprétations incorrectes de documents ;
- fabrication de sources ;
- confusion entre plusieurs concepts ou événements.
Dans les domaines à forts enjeux, tels que le droit, la santé, la finance ou les services publics, les hallucinations constituent un risque majeur. Elles peuvent conduire à des décisions erronées, à des atteintes aux droits des personnes ou à des responsabilités juridiques importantes pour les utilisateurs et les organisations qui déploient ces technologies.
Les publications récentes de Dabo Tibi Ius montrent que la question des hallucinations est devenue centrale dans les débats relatifs à l’adoption de l’IA dans les professions juridiques. Alors que les outils d’IA sont désormais utilisés pour la recherche documentaire, l’analyse de jurisprudence, la rédaction de consultations ou la revue contractuelle, la fiabilité des résultats constitue une préoccupation essentielle pour les avocats, les juristes d’entreprise, les magistrats et les universitaires.
L’essor des systèmes de recherche augmentée par récupération (Retrieval-Augmented Generation ou RAG), des outils de vérification des sources, des modèles spécialisés et des mécanismes de contrôle humain témoigne de la volonté des acteurs du secteur de réduire le risque d’hallucination sans pour autant parvenir à le supprimer totalement.
L’hallucination est aujourd’hui considérée comme l’un des principaux défis techniques, juridiques et éthiques de l’intelligence artificielle générative.
2. Points essentiels à retenir
- Une hallucination correspond à la production d’une information fausse ou inventée par un système d’IA.
- Les hallucinations constituent une caractéristique connue des modèles génératifs contemporains.
- Elles peuvent concerner des faits, des chiffres, des sources, des citations ou des décisions de justice.
- Le risque est particulièrement important dans les domaines juridiques, médicaux et financiers.
- Les systèmes RAG et les mécanismes de vérification permettent de réduire ce risque sans l’éliminer totalement.
- L’AI Act prend indirectement en compte cette problématique à travers les exigences de transparence, de gouvernance et de gestion des risques.
- Le contrôle humain demeure essentiel.
3. Définition et caractéristiques
Une réponse plausible mais fausse
L’une des particularités des hallucinations est qu’elles sont souvent difficiles à détecter.
Les réponses produites peuvent être :
- grammaticalement correctes ;
- logiquement cohérentes ;
- convaincantes ;
- parfaitement rédigées.
L’utilisateur peut ainsi avoir l’impression que l’information est fiable alors qu’elle est inexacte ou entièrement inventée.
Une notion issue de la recherche en IA
Le terme « hallucination » s’est imposé dans la littérature scientifique pour désigner les situations où un modèle génère un contenu qui ne correspond pas aux données réelles ou aux informations disponibles.
Certains chercheurs préfèrent toutefois des expressions telles que :
- erreur factuelle ;
- fabrication d’information ;
- génération non fondée (ungrounded generation) ;
- confabulation algorithmique.
4. Les principales formes d’hallucinations
Hallucinations factuelles
Le système invente ou modifie un fait.
Exemple
- date erronée ;
- chiffre inexistant ;
- événement fictif.
Hallucinations documentaires
Le système invente une source ou attribue une information à un document qui ne contient pas cette information.
Exemple
- article scientifique inexistant ;
- rapport fictif ;
- ouvrage inventé.
Hallucinations juridiques
Les hallucinations juridiques sont particulièrement préoccupantes.
Elles peuvent concerner :
- des décisions de justice inexistantes ;
- des articles de loi inventés ;
- des citations erronées ;
- des références réglementaires incorrectes.
Les professions juridiques ont été parmi les premières à documenter publiquement ce phénomène.
Hallucinations de raisonnement
Le système suit une logique apparemment cohérente mais aboutit à une conclusion erronée.
5. Pourquoi les modèles hallucinent-ils ?
Fonctionnement probabiliste des LLM
Les grands modèles de langage ne « connaissent » pas les faits comme un être humain.
Ils prédisent la suite la plus probable d’une séquence de mots à partir des données utilisées lors de leur entraînement.
Ils ne disposent pas nécessairement :
- d’une compréhension du monde ;
- d’une vérification automatique des faits ;
- d’un mécanisme systématique de validation.
Limites des données d’entraînement
Les erreurs peuvent résulter :
- de données incomplètes ;
- de données obsolètes ;
- de contradictions dans les corpus ;
- d’un manque d’information pertinente.
Problèmes liés au contexte
Le modèle peut manquer d’informations nécessaires pour répondre correctement.
Dans certains cas, il préfère générer une réponse plausible plutôt qu’indiquer son ignorance.
6. Hallucinations et professions juridiques
Les professions juridiques sont particulièrement exposées aux risques d’hallucination.
Les systèmes d’IA peuvent être utilisés pour :
- rechercher de la jurisprudence ;
- analyser des textes ;
- rédiger des consultations ;
- préparer des conclusions ;
- effectuer une veille réglementaire.
Une erreur peut avoir des conséquences importantes :
- conseil juridique erroné ;
- mauvaise analyse de risque ;
- perte financière ;
- responsabilité professionnelle ;
- atteinte aux droits des justiciables.
Affaire Mata v. Avianca (États-Unis)
United States District Court, Southern District of New York, 22 juin 2023, Mata v. Avianca, Inc.
Apport
Cette affaire est devenue emblématique des hallucinations juridiques.
Des avocats avaient soumis au tribunal un mémoire contenant plusieurs décisions de justice entièrement inventées par ChatGPT.
Le juge a sanctionné les avocats en rappelant leur obligation de vérification des références citées.
Cette décision est aujourd’hui régulièrement citée dans les débats relatifs à l’utilisation de l’IA générative par les professionnels du droit.
7. Réduction du risque d’hallucination
Utilisation de systèmes RAG
Les systèmes de Retrieval-Augmented Generation permettent de connecter un modèle à une base documentaire.
Ils réduisent le risque d’invention en imposant au système de s’appuyer sur des documents identifiés.
Vérification humaine
La supervision humaine demeure la mesure de sécurité la plus importante.
Aucune réponse produite par une IA ne devrait être utilisée dans un contexte sensible sans vérification appropriée.
Citation des sources
L’identification des sources utilisées permet :
- de contrôler l’information ;
- de vérifier les références ;
- de détecter les erreurs.
Modèles spécialisés
Les systèmes spécialisés dans un domaine déterminé tendent à produire moins d’hallucinations que les modèles généralistes.
8. Hallucinations et AI Act
L’AI Act ne contient pas de disposition spécifiquement consacrée aux hallucinations.
Toutefois plusieurs mécanismes visent indirectement ce risque :
- gestion des risques ;
- gouvernance des données ;
- supervision humaine ;
- exigences de précision ;
- obligations de documentation ;
- transparence.
Les fournisseurs de systèmes d’IA doivent mettre en œuvre des mesures adaptées pour limiter les erreurs susceptibles d’affecter les utilisateurs.
9. État actuel des débats
Peut-on supprimer totalement les hallucinations ?
À ce jour, aucun consensus scientifique ne permet d’affirmer qu’il est possible d’éliminer totalement les hallucinations des modèles génératifs.
La plupart des travaux visent plutôt à :
- réduire leur fréquence ;
- améliorer leur détection ;
- renforcer les mécanismes de contrôle.
Les hallucinations sont-elles compatibles avec les usages professionnels ?
La tendance actuelle consiste à considérer que les systèmes génératifs peuvent être utilisés comme outils d’assistance mais ne doivent pas être considérés comme des sources autonomes d’autorité.
Quel niveau de fiabilité est acceptable ?
Cette question demeure au cœur des débats réglementaires et industriels.
Le niveau de tolérance varie selon le domaine concerné :
- recherche documentaire ;
- santé ;
- justice ;
- administration ;
- défense.
10. Ressources Dabo Tibi Ius essentielles
11. Fiches Dabo Tibi Ius connexes
- Intelligence artificielle générative
- Grands modèles de langage (LLM)
- AI Act
- Gouvernance de l’IA
- Recherche juridique assistée par IA
- Explicabilité
- Transparence algorithmique
- RAG (Retrieval-Augmented Generation)
- Juristes et intelligence artificielle
- Avocats et intelligence artificielle
Méthodologie : Cette fiche a été générée avec l’assistance de l’intelligence artificielle à partir de la base documentaire Dabo Tibi Ius et de sources complémentaires relatives à l’intelligence artificielle générative. Elle vise à fournir une synthèse informative et pédagogique du sujet. Elle ne constitue ni un avis juridique, ni une consultation juridique. Les références citées doivent être vérifiées et actualisées avant toute utilisation professionnelle ou académique.