Aller au contenu principal

Les hallucinations et comment les réduire

Intermédiaire

Une hallucination se produit lorsqu'un modèle affirme quelque chose de faux avec une assurance totale. Il ne ment pas et n'est pas défectueux — c'est le revers de la façon dont fonctionnent les LLM : ils génèrent du texte plausible, et plausible n'est pas toujours vrai (voir Qu'est-ce qu'un LLM ?). Vous ne pouvez pas l'éliminer entièrement par un prompt, mais vous pouvez la réduire drastiquement et rattraper le reste.

Pourquoi cela arrive​

Le modèle prédit une continuation probable. Lorsqu'il ne « sait » pas quelque chose, la continuation qui paraît la plus probable est souvent une réponse assurée, bien formée — et fausse. Il n'existe aucun signal intégré « je ne suis pas sûr » à moins que vous ne lui laissiez de la place pour cela.

Les zones à haut risque​

Soyez le plus sceptique lorsque la sortie implique :

  • Citations, propos rapportés et références — articles inventés, fausses URL, citations mal attribuées.
  • Chiffres, dates et statistiques précis — des données plausibles mais inventées.
  • Faits de niche ou très récents — au-delà de ce que le modèle a réellement appris de façon fiable.
  • Détails d'API et de bibliothèques — méthodes ou paramètres qui n'existent pas.
  • Personnes et précisions juridiques/médicales — enjeux élevés, faciles à se tromper subtilement.

La boîte à outils de réduction​

Empilez-les — chacune apporte sa pierre :

  1. Ancrez-la dans des sources. Collez le texte source et dites « réponds uniquement à partir du texte ci-dessus ; si l'information n'y figure pas, dis-le. » C'est l'idée centrale derrière le RAG.
  2. Donnez-lui une porte de sortie. Autorisez explicitement « Si tu n'es pas sûr, dis "je ne sais pas" » — cela réduit considérablement les suppositions assurées.
  3. Demandez le raisonnement et les citations. « Cite la phrase exacte qui appuie chaque affirmation. » Les affirmations non étayées deviennent évidentes.
  4. Baissez la créativité pour les tâches factuelles, lorsque le modèle expose un contrôle de température (voir Contrôles d'échantillonnage).
  5. Utilisez des outils. Pour les mathématiques, les données actuelles ou les recherches, donnez au modèle une calculatrice/un moteur de recherche/un outil plutôt que de vous fier à sa mémoire.
  6. Recoupez. Posez la même question de deux manières, ou faites critiquer la première réponse par un second passage.

L'état d'esprit qui vous protège vraiment​

:::warning Vérifiez ce qui compte — toujours Aucun prompt ne rend une sortie fiable à 100 %. Pour tout ce qui a des conséquences — un chiffre dans un rapport, une citation, une commande que vous allez exécuter, un détail médical/juridique/financier — confrontez-le à une source fiable. Traitez l'IA comme un premier jet rapide, pas comme une autorité finale. C'est le cœur de l'Usage responsable. :::

Une règle simple : le coût d'une erreur fixe le niveau de vérification. Du brainstorming ? Faites confiance librement. Publier une statistique ? Vérifiez à chaque fois.

Pour aller plus loin​