Les hallucinations dans les modèles LLM comme ChatGPT sont des réponses inventées ou imprécises, souvent exprimées avec assurance malgré l’absence de base solide. Elles ne peuvent pas être totalement éliminées (c’est une limitation intrinsèque de ces modèles), mais il existe plusieurs stratégies pour les réduire et les détecter. Voici une checklist pratique :

Checklist pour réduire les hallucinations avec ChatGPT :

Avant de poser la question

• ◻️ J’écris la question de manière claire et précise
• ◻️ J’apporte suffisamment de contexte pour bien définir le besoin
• ◻️ Si je veux des données récentes, je demande une recherche web

Pendant la conversation

• ◻️ Je demande une explication étape par étape (pour un raisonnement ou un calcul)
• ◻️ Si l’information est factuelle, je demande des sources vérifiables
• ◻️ Je vérifie la cohérence interne de la réponse
• ◻️ En cas de doute, je reformule ou demande une autre version

Après la réponse

• ◻️ Je vérifie avec des sources fiables externes (documents officiels, sites spécialisés…)
• ◻️ Je détecte les données trop précises mais suspectes (chiffres exacts, citations, statistiques)
• ◻️ Je découpe le problème en parties et vérifie chaque étape

À éviter

• ◻️ Ne pas faire confiance aux références inventées
• ◻️ Ne rien considérer comme vrai si cela ne peut pas être vérifié
• ◻️ Éviter les questions trop ouvertes sans objectif clair

Un article d’OpenAI explique pourquoi les modèles de langage hallucinent. Vous pouvez le consulter en espagnol ici.