Aller au contenu principal

Fine-tuning vs Prompting vs RAG

Intermédiaire
What you'll learn
  • Les trois leviers dont vous disposez quand le modèle ne fait pas ce que vous voulez
  • L'ordre qui marche vraiment — et pourquoi le fine-tuning n'est presque jamais l'étape 1
  • Quand le RAG est le bon correctif et quand c'est de la surdose
  • À quoi le fine-tuning est vraiment bon (et à quoi il ne l'est pas)
  • Comment les trois se combinent dans un vrai système en production

Quand le modèle ne fait pas ce que vous voulez, il y a trois leviers — et les gens attrapent le plus cher en premier. Voici l'ordre qui marche vraiment.

Essayez dans cet ordre​

Guided walkthrough1 of 3
  1. Instructions plus claires, exemples, un rôle, des contraintes de sortie (voir /docs/prompting/basics). Corrige la majorité des problèmes, ne coûte rien de plus, et est instantané à itérer. La plupart des « le modèle est mauvais à X » se révèlent être « le prompt était vague ».

Le tableau de décision​

Votre problèmeAttrapez
Sorties vagues/fausses, mauvais formatPrompting
Ne connaît pas vos données / a besoin d'infos actuellesRAG
A besoin d'un style/comportement très spécifique, cohérent, à l'échelleFine-tuning
A besoin de prendre des actions(Pas ceux-ci — c'est utilisation d'outils/agents)
Quel levier résout quel problème
Appuyez sur Entrée ou Espace pour retourner la carte. Utilisez les flèches gauche et droite pour naviguer entre les cartes.Terme affiché.
1 / 4

Pourquoi les gens se trompent​

Le fine-tuning sonne comme « enseigner au modèle », donc ça ressemble au vrai correctif. Mais c'est l'option la plus lente, la plus coûteuse, la moins flexible, elle n'ajoute pas bien de connaissance fraîche (le RAG fait ça), et c'est facile de le rater. Épuisez d'abord prompting et RAG — vous n'aurez généralement pas besoin de l'étape 3.

Watch out
  • Fine-tuner un modèle frontière sur vos données n'ajoute PAS de manière fiable de nouveaux faits — ça décale le style et le comportement. Les faits continuent d'halluciner.
  • Un modèle fine-tuné est épinglé à cette version de base. Quand le fournisseur sort une meilleure base, vous réentraînez ou vous êtes coincé.
  • De mauvaises données d'entraînement amplifient de mauvais comportements — un jeu de données médiocre rend le modèle pire, pas meilleur.
  • La plupart des demandes « on a besoin de fine-tuning » sont vraiment « notre prompt fait 40 lignes de règles ad hoc » — refactorez d'abord le prompt.

:::tip Ils se combinent Un système fort est souvent un bon prompt + RAG pour la connaissance, avec le fine-tuning réservé à un besoin comportemental étroit. Ils ne sont pas mutuellement exclusifs. :::

Un exemple concret : « le modèle ne peut pas répondre aux questions sur notre produit »

# Wrong first move: fine-tune on the product manual.
# Right first move: retrieve the relevant chapter and inject it.

# 1. PROMPTING (baseline)
System: "You are a support agent for Acme Widgets. Be concise, cite doc sections."
User:   "Does the Widget Pro support Bluetooth 5.3?"
# Fails — model has no idea what a Widget Pro is.

# 2. + RAG (usually enough)
System: "You are a support agent for Acme Widgets. Be concise, cite doc sections."
Context: [top-3 chunks from product manual retrieved by embedding search]
User:    "Does the Widget Pro support Bluetooth 5.3?"
# Works — model reads the retrieved specs and answers with a citation.

# 3. + Fine-tuning (only if house voice / format is still drifting after 1+2)
# Train on 500-2000 (prompt, ideal answer) pairs to lock in the style — NOT to teach facts.

Vérifiez-vous

0/4
  1. Le modèle donne des réponses vagues, hors format à votre tâche. Que tentez-vous d'abord ?
  2. Votre modèle ne connaît pas votre wiki interne. Quel levier ?
  3. À quoi le fine-tuning est-il RÉELLEMENT bon ?
  4. Quelle combinaison est la forme d'un système de production mature ?
Key takeaways
  • Trois leviers quand le modèle ne fait pas ce que vous voulez : prompting, RAG, fine-tuning — dans cet ordre.
  • Le prompting corrige ~9 plaintes sur 10 du type « le modèle est mauvais à X » pour zéro coût et itération instantanée.
  • Le RAG est le bon correctif quand l'écart est une connaissance manquante ou fraîche — le fine-tuning n'est PAS fiable pour ajouter des faits.
  • Le fine-tuning est un dernier recours pour un style/format/comportement cohérents à l'échelle, et a besoin de centaines à des milliers d'exemples de haute qualité plus le volume d'appels pour le justifier.
  • Dans un vrai système en production les trois se composent : prompt fort + RAG + fine-tune étroit.

Suite​