Passa al contenuto principale

Fine-tuning vs Prompting vs RAG

Intermedio
What you'll learn
  • Le tre leve che hai quando il modello non fa ciò che vuoi
  • L'ordine che funziona davvero — e perché il fine-tuning quasi mai è il passo 1
  • Quando il RAG è la soluzione giusta e quando è eccessivo
  • In cosa il fine-tuning è genuinamente bravo (e in cosa non lo è)
  • Come le tre si combinano in un sistema di produzione reale

Quando il modello non fa ciò che vuoi, ci sono tre leve — e la gente ricorre per prima a quella costosa. Ecco l'ordine che funziona davvero.

Prova in quest'ordine​

Guided walkthrough1 of 3
  1. Istruzioni più chiare, esempi, un ruolo, vincoli sull'output (vedi /docs/prompting/basics). Risolve la maggior parte dei problemi, non costa nulla in più ed è immediato da iterare. La maggior parte dei 'il modello è scarso su X' si rivela essere 'il prompt era vago'.

La tabella decisionale​

Il tuo problemaRicorri a
Output vaghi/sbagliati, formato erratoPrompting
Non conosce i tuoi dati / serve informazione attualeRAG
Serve uno stile/comportamento molto specifico, in modo coerente, su larga scalaFine-tuning
Deve compiere azioni(Nessuno di questi — è uso di strumenti/agenti)
Quale leva risolve quale problema
Premi Invio o Spazio per girare la carta. Usa le frecce sinistra e destra per spostarti tra le carte.Termine mostrato.
1 / 4

Perché la gente sbaglia​

Il fine-tuning suona come "insegnare al modello", quindi sembra la vera soluzione. Ma è l'opzione più lenta, più costosa e meno flessibile, non aggiunge bene conoscenza fresca (lo fa il RAG) ed è facile farlo male. Esaurisci prima prompting e RAG — di solito non ti servirà il passaggio 3.

Watch out
  • Fare fine-tuning di un modello frontier sui tuoi dati NON aggiunge in modo affidabile nuovi fatti — cambia stile e comportamento. I fatti continuano ad allucinare.
  • Un modello fine-tuned è ancorato a quella versione base. Quando il vendor rilascia una base migliore, ri-addestri o resti bloccato.
  • Dati di training scadenti amplificano comportamenti scadenti — un dataset mediocre rende il modello peggiore, non migliore.
  • La maggior parte delle richieste 'ci serve il fine-tuning' sono in realtà 'il nostro prompt è 40 righe di regole ad-hoc' — refactora prima il prompt.

:::tip Si combinano Un sistema solido è spesso un buon prompt + RAG per la conoscenza, con il fine-tuning riservato a un'esigenza comportamentale ristretta. Non si escludono a vicenda. :::

Un esempio concreto: 'il modello non riesce a rispondere alle domande sul nostro prodotto'

# Wrong first move: fine-tune on the product manual.
# Right first move: retrieve the relevant chapter and inject it.

# 1. PROMPTING (baseline)
System: "You are a support agent for Acme Widgets. Be concise, cite doc sections."
User:   "Does the Widget Pro support Bluetooth 5.3?"
# Fails — model has no idea what a Widget Pro is.

# 2. + RAG (usually enough)
System: "You are a support agent for Acme Widgets. Be concise, cite doc sections."
Context: [top-3 chunks from product manual retrieved by embedding search]
User:    "Does the Widget Pro support Bluetooth 5.3?"
# Works — model reads the retrieved specs and answers with a citation.

# 3. + Fine-tuning (only if house voice / format is still drifting after 1+2)
# Train on 500-2000 (prompt, ideal answer) pairs to lock in the style — NOT to teach facts.

Verifica

0/4
  1. Il modello dà risposte vaghe, fuori formato al tuo task. Cosa provi per primo?
  2. Il tuo modello non conosce il tuo wiki interno. Quale leva?
  3. In cosa è REALMENTE bravo il fine-tuning?
  4. Quale combinazione è la forma di un sistema di produzione maturo?
Key takeaways
  • Tre leve quando il modello non fa ciò che vuoi: prompting, RAG, fine-tuning — in quest'ordine.
  • Il prompting risolve ~9 lamentele su 10 'il modello è scarso su X' a costo zero e con iterazione istantanea.
  • Il RAG è la soluzione giusta quando la lacuna è conoscenza mancante o fresca — il fine-tuning NON è affidabile per aggiungere fatti.
  • Il fine-tuning è ultima risorsa per stile/formato/comportamento coerente su larga scala, e richiede centinaia o migliaia di esempi di alta qualità più il volume di chiamate per giustificarlo.
  • In un sistema di produzione reale le tre si compongono: prompt solido + RAG + fine-tune ristretto.

Prossimi passi​