Aller au contenu principal

Les hallucinations et comment les réduire

Intermédiaire
What you'll learn
  • Comprendre POURQUOI les modèles fabriquent des réponses assurées et bien formées
  • Reconnaître les 5 zones à haut risque où il faut être le plus sceptique
  • Appliquer une boîte à outils en 6 parties pour réduire drastiquement les hallucinations
  • Utiliser un prompt anti-hallucination à copier-coller qui ancre, donne une porte de sortie et force les citations
  • Adopter l'état d'esprit qui ajuste l'effort de vérification au coût d'une erreur

Une hallucination se produit lorsqu'un modèle affirme quelque chose de faux avec une assurance totale. Il ne ment pas et n'est pas défectueux — c'est le revers de la façon dont fonctionnent les LLM : ils génèrent du texte plausible, et plausible n'est pas toujours vrai (voir Qu'est-ce qu'un LLM ?). Vous ne pouvez pas l'éliminer entièrement par un prompt, mais vous pouvez la réduire drastiquement et rattraper le reste.

Pourquoi cela arrive​

Le modèle prédit une continuation probable. Lorsqu'il ne « sait » pas quelque chose, la continuation qui paraît la plus probable est souvent une réponse assurée, bien formée — et fausse. Il n'existe aucun signal intégré « je ne suis pas sûr » à moins que vous ne lui laissiez de la place pour cela.

Pro tip
  • Le remède à la plupart des hallucinations est de créer délibérément de la place pour l'incertitude — donnez au modèle la permission de dire qu'il ne sait pas.

Les zones à haut risque​

Soyez le plus sceptique lorsque la sortie implique :

  • Citations, propos rapportés et références — articles inventés, fausses URL, citations mal attribuées.
  • Chiffres, dates et statistiques précis — des données plausibles mais inventées.
  • Faits de niche ou très récents — au-delà de ce que le modèle a réellement appris de façon fiable.
  • Détails d'API et de bibliothèques — méthodes ou paramètres qui n'existent pas.
  • Personnes et précisions juridiques/médicales — enjeux élevés, faciles à se tromper subtilement.

La boîte à outils de réduction​

Empilez-les — chacune apporte sa pierre :

Guided walkthrough1 of 6
  1. Collez le texte source et dites « réponds uniquement à partir du texte ci-dessus ; si l'information n'y figure pas, dis-le. » C'est l'idée centrale derrière le RAG (/docs/foundations/rag).

Un prompt anti-hallucination à copier-coller​

L'essentiel de la boîte à outils ci-dessus se condense en un seul gabarit réutilisable. Collez votre source à l'endroit indiqué et posez votre question — il ancre la réponse, donne une porte de sortie au modèle et force les citations en un seul coup :

Enveloppe anti-hallucination

You answer ONLY from the SOURCE below.
Rules:
- If the answer is not in the SOURCE, reply exactly: "Not stated in the source."
- After every claim, quote the exact sentence from the SOURCE that supports it.
- Do not add outside knowledge, estimates, or assumptions.

SOURCE:
"""
[paste the document, transcript, or data here]
"""

QUESTION: [your question]

Pourquoi ça marche : l'échappatoire « Not stated in the source » supprime la pression de deviner, et la règle de citer-la-phrase rend impossible de cacher toute affirmation non étayée. Retirez le bloc SOURCE quand vous voulez réellement les connaissances propres du modèle — mais alors la vérification vous revient à nouveau.

L'état d'esprit qui vous protège vraiment​

Watch out
  • Aucun prompt ne rend une sortie fiable à 100 %. Pour tout ce qui a des conséquences — un chiffre dans un rapport, une citation, une commande que vous allez exécuter, un détail médical/juridique/financier — confrontez-le à une source fiable. Traitez l'IA comme un premier jet rapide, pas comme une autorité finale. C'est le cœur de l'Usage responsable (/docs/security/responsible-use).

Une règle simple : le coût d'une erreur fixe le niveau de vérification. Du brainstorming ? Faites confiance librement. Publier une statistique ? Vérifiez à chaque fois.

Key takeaways
  • Les hallucinations sont un sous-produit d'une génération fondée sur la plausibilité, pas un bug que vous pouvez entièrement éliminer par un prompt.
  • Soyez le plus sceptique avec les citations, les chiffres/dates, les faits de niche ou récents, les détails d'API et les précisions sur les personnes/le juridique/le médical.
  • Empilez la boîte à outils : ancrez dans des sources, donnez une porte de sortie, exigez des citations, baissez la température, utilisez des outils, recoupez.
  • Une seule enveloppe de prompt ancre + donne une porte de sortie + force les citations d'un seul coup.
  • Ajustez l'effort de vérification au coût d'une erreur — faites confiance librement quand c'est peu coûteux, vérifiez chaque affirmation quand c'est conséquent.

Vérifiez vos connaissances

0/5
  1. Pourquoi les modèles hallucinent-ils ?
  2. Laquelle de ces situations est une zone à haut risque où vous devriez être le plus sceptique ?
  3. Quel est l'effet le plus direct de donner au modèle une porte de sortie explicite comme « Si tu n'es pas sûr, dis 'je ne sais pas' » ?
  4. Quelle règle décide du niveau de vérification qu'une réponse exige ?
  5. Dans le prompt-enveloppe anti-hallucination, qu'est-ce qui rend impossible de cacher toute affirmation non étayée ?

Pour aller plus loin​