En IA, l’hallucination désigne un résultat affirmé avec confiance mais factuellement incorrect, fabriqué ou non étayé par les données d’entraînement du modèle.
L’hallucination est une limitation connue des modèles de langage. Parce que ces modèles prédisent du texte plausible plutôt que de récupérer des faits vérifiés, ils peuvent produire des affirmations qui semblent autoritaires mais sont fausses.
Que faire
Traitez les affirmations factuelles générées par l’IA comme des ébauches nécessitant une vérification.