HallucinationouErreur
Une erreur est une panne : quelque chose n’a pas fonctionné comme prévu, et cela se corrige. Une hallucination est le fonctionnement normal du modèle : il produit une continuation plausible, et rien dans sa mécanique ne distingue le vrai du vraisemblable.
Point par point
| Critère | Étage 1Étage 1 · Le Modèleun bloc plein, seul : la machine à prédireHallucination | Erreur |
|---|---|---|
| Nature | Une propriété du système | Un dysfonctionnement |
| Se corrige | Non : on l’encadre, on la détecte | Oui, en réparant la cause |
| Signal visible | Aucun : même assurance que le vrai | Souvent un message, un code |
| Disparaîtra un jour | Pas par nature, seulement par dispositif | Oui, une fois le défaut corrigé |
| Réponse appropriée | Donner les sources à lire, exiger des citations | Corriger le code ou la configuration |
| Qui la détecte | Quelqu’un qui connaît déjà la réponse | Le système lui-même, souvent |
Sur le terrain quatre situations
Un modèle cite un article de loi qui n’existe pas, avec un numéro et une date crédibles.
Étage 1 · Le Modèleun bloc plein, seul : la machine à prédireHallucinationRien n’a dysfonctionné : la référence a été reconstruite parce qu’elle ressemble à celles qui existent. C’est le mécanisme, pas une panne.
Une application renvoie une page blanche parce que la clé d’accès a expiré.
ErreurUn composant a cessé de fonctionner, la cause est identifiable et la correction définitive.
Un modèle affirme avec assurance que deux plus deux font cinq après qu’on l’a contredit.
Étage 1 · Le Modèleun bloc plein, seul : la machine à prédireHallucinationLe contre-exemple utile : ce n’est pas un défaut de calcul mais une conséquence de l’alignement, qui a appris à satisfaire l’interlocuteur. Le mécanisme reste le même, produire ce qui semble attendu.
Un système de recherche documentaire cite une source réelle mais lui fait dire le contraire de ce qu’elle dit.
Les deuxIl y a hallucination sur le contenu, et défaut du harnais qui a mal sélectionné ou mal découpé le passage. Les deux se traitent, mais pas par les mêmes moyens.
Le test qui tranche
Demandez si le système a signalé quelque chose. Une erreur laisse une trace, un code, un journal. Une hallucination n’en laisse aucune : elle a la même forme qu’une réponse juste.
Le piège
Attendre que les hallucinations soient « corrigées » dans une version future. Ce n’est pas un défaut à réparer mais une propriété de la prédiction : ce qui progresse, c’est la fréquence et les dispositifs de détection, pas la nature du phénomène.
Vérifier cliquez votre réponse
Niveau 1 · Reconnaître
Qu’est-ce qui rend une hallucination difficile à repérer ?
Niveau 2 · Distinguer
Quelle réponse convient à une hallucination ?
Niveau 2 · Distinguer
Pourquoi parle-t-on de propriété plutôt que de défaut ?