Context Engineering
Il prompt engineering riguarda le parole che scegli. Il context engineering riguarda lo spazio di lavoro che consegni al modello — cosa c'è dentro, in che ordine si trova e cosa hai deliberatamente lasciato fuori.
La distinzione conta perché una finestra di contesto non è un blocco per appunti. È una risorsa attentiva limitata e costosa. Il modo in cui la riempi cambia ciò su cui il modello si concentra, quanto ti costa e se rimane utile man mano che le sessioni crescono.
- Distinguere il context engineering dal prompt engineering — e capire perché il campo si è evoluto
- Trattare la finestra di contesto come un budget di attenzione, non come un contenitore di archiviazione
- Individuare il context rot e il fenomeno lost in the middle prima che rovinino una sessione lunga
- Collocare le istruzioni dove l'attenzione si posa davvero — in cima, alla fine, mai sepolte nel mezzo
- Applicare le tre tattiche di base: compaction, note-taking e just-in-time retrieval
Il budget di contesto
Ogni modello ha una dimensione massima di contesto — un tetto rigido misurato in token. Pensalo come un budget. Lo spendi in:
- Il tuo system prompt e le istruzioni permanenti
- Documenti recuperati, frammenti di codebase, definizioni di strumenti
- La cronologia della conversazione
- L'output del modello (che conta anch'esso contro la finestra nelle sessioni multi-turno)
Quando lo esaurisci, qualcosa deve cedere. O i vecchi contenuti vengono scartati, o la sessione sbatte contro un muro.
La maggior parte delle guide per principianti tratta la finestra di contesto come "più è meglio". Il context engineering la tratta come una risorsa da allocare con attenzione: spendila su ciò di cui il modello ha realmente bisogno per questo turno, non su tutto ciò che potrebbe essere rilevante. Anthropic inquadra l'intera disciplina come una ricerca del "più piccolo insieme possibile di token ad alto segnale" — ogni token che aggiungi compete per un budget di attenzione finito, conseguenza diretta di come un transformer mette in relazione ogni token con ogni altro.
Context rot e "lost in the middle"
C'è un fenomeno ben documentato negli LLM a contesto lungo: i modelli prestano un'attenzione sproporzionata ai contenuti vicini all'inizio e alla fine del loro contesto, e la loro capacità di recupero dei contenuti sepolti nel mezzo si degrada. I ricercatori che hanno studiato questo effetto lo hanno chiamato "lost in the middle".
La conseguenza pratica: se riempi un contesto da 100.000 token di documenti e seppellisci l'istruzione più critica alla posizione 60.000, il modello può di fatto ignorarla — non perché sia incapace di leggere fin lì, ma perché l'attenzione non è distribuita uniformemente lungo la finestra.
Il "context rot" è il pattern più ampio: man mano che una sessione cresce, la qualità delle risposte tende a derivare. Le istruzioni iniziali si diluiscono. Il continuo botta e risposta soffoca il compito originale. Il modello inizia a tergiversare, a ripetersi o a perdere il filo di ciò che hai effettivamente chiesto.
Questi non sono bug che puoi correggere completamente con un prompt migliore. Sono proprietà strutturali di come funziona l'attenzione su larga scala. La risposta ingegneristica è mantenere il contesto più piccolo e più nitido, non riempirlo e sperare.
L'ordine conta
Dove collochi i contenuti è importante quanto cosa includi. Buona pratica consolidata:
| Posizione | Cosa metterci |
|---|---|
| In cima (system prompt) | Istruzioni stabili e durature. Persona, regole, requisiti di formato. |
| Dopo il system prompt | Il compito corrente, in termini semplici. |
| Appena prima dell'ultimo turno utente | Il contesto più critico e specifico per questa esatta richiesta. |
| Mezzo | Documenti di supporto, chunk recuperati — ordinati per rilevanza, non per cronologia. |
| Cronologia della conversazione | Solo ciò che è necessario per la continuità. Pota in modo aggressivo. |
La regola generale: più ci si avvicina al turno corrente, più attenzione si ottiene. Le istruzioni critiche che vivono solo nel mezzo di una lunga cronologia sono a rischio.
La "giusta altitudine" per le istruzioni
Un system prompt può fallire in due modi opposti. Troppo in basso e codifichi una logica fragile, del tipo se-questo-allora-quello, che si rompe nell'istante in cui la realtà differisce. Troppo in alto e scrivi indicazioni vaghe che presuppongono un contesto che il modello non ha. Anthropic chiama l'obiettivo la "giusta altitudine" — la zona ideale che è "abbastanza specifica da guidare il comportamento in modo efficace, ma abbastanza flessibile da fornire euristiche solide". Punta lì: regole ed esempi concreti, non un albero decisionale, e non un'atmosfera vaga.
Recupero invece di riempimento
La tentazione è metterci dentro tutto: tutti i documenti, l'intera codebase, l'intera conversazione. Resisti.
L'approccio migliore è il recupero selettivo: identifica ciò di cui il modello ha realmente bisogno per questa specifica richiesta, e inietta solo quello. Un chunk ben recuperato da 2.000 token del documento giusto supera uno scaricamento da 40.000 token dove la risposta è da qualche parte nel mezzo.
Ecco perché esiste la retrieval-augmented generation (RAG) — non solo per superare i limiti di contesto, ma per migliorare la qualità mantenendo il contesto curato. La versione agentica è il just-in-time retrieval: invece di pre-caricare ogni documento, l'agente mantiene identificatori leggeri (percorsi di file, ID, query) e tira il contenuto effettivo nel contesto solo nel momento in cui serve.
Per le sessioni interattive vale la stessa logica: invece di accumulare tutto, comprimi o ripulisci periodicamente la cronologia per rimuovere i contenuti che non sono più rilevanti per il compito corrente. I comandi /compact e /clear di Claude Code sono strumenti di context engineering, non solo di gestione della sessione. Sull'API, lo stesso pattern è automatizzato da memory e context editing — i vecchi risultati degli strumenti vengono potati dalla finestra mentre ciò che conta viene scritto in un archivio di memoria persistente.
Le tre tattiche di base
Per il lavoro a lungo orizzonte, tre tecniche fanno la maggior parte del lavoro pesante. Si compongono — la maggior parte degli agenti reali le usa tutte e tre.
- Quando una sessione si avvicina al limite della finestra, riassumila e reinizializza con la versione distillata. Conserva i dettagli portanti — decisioni architetturali, bug irrisolti, scelte implementative chiave — e scarta il resoconto passo passo. È ciò che fa /compact in Claude Code.
- Fai in modo che l'agente scriva fatti duraturi in una memoria esterna (un file, uno scratchpad, un CLAUDE.md) e li rilegga più tardi. Questo offre una memoria persistente con un overhead minimo all'interno della finestra — le note vivono fuori dal budget finché non servono.
- Non pre-riempire ogni documento. Mantieni riferimenti leggeri e carica il contenuto effettivo a runtime, solo per il passo che ne ha bisogno. Un recupero mirato da 2.000 token batte uno scaricamento da 40.000 token.
L'aspetto dei costi
I token che invii sono token che paghi — sia in denaro che in latenza. Riempire il contesto con materiale vagamente rilevante gonfia entrambi. Context engineering ed efficienza dei costi sono lo stesso problema.
Più concretamente:
- Un system prompt gonfio che incolli da un template viene pagato a ogni singola chiamata.
- La vecchia cronologia della conversazione che porti avanti perché "potrebbe essere utile" viene pagata a ogni singola chiamata.
- I documenti che inietti "per ogni evenienza" vengono pagati a ogni singola chiamata.
Tagliare ciò che non deve essere lì è contemporaneamente meglio per la qualità e più economico da eseguire.
Tattiche pratiche per gli utenti di Claude
In Claude.ai:
- Usa conversazioni distinte per compiti distinti. Non lasciare che un pomeriggio di divagazioni inquini il contesto di un progetto focalizzato.
- Riassumi i thread lunghi prima di porre una domanda complessa che dipende da essi. Un riassunto esplicito è spesso più utile della cronologia grezza.
- Metti la cosa specifica che vuoi alla fine di un messaggio lungo, non sepolta nel mezzo.
In Claude Code:
- Mantieni il tuo file
CLAUDE.mdsnello. Ogni riga al suo interno viene iniettata in ogni sessione. Vedi CLAUDE.md e Context Management. - Usa
/clearquando passi a un compito genuinamente diverso. Usa/compactquando vuoi continuare ma la sessione sta crescendo. - Fai riferimento ai file tramite percorso anziché incollarne il contenuto quando il file completo non serve per il passo corrente.
A livello di API:
- Progetta i system prompt in modo che contengano solo ciò di cui ogni richiesta ha davvero bisogno. Sposta le istruzioni specifiche del compito nel turno utente.
- Per i casi d'uso ricchi di documenti, recupera e inietta i chunk rilevanti anziché caricare un intero corpus.
- Struttura il prompt in modo che il prefisso stabile e riutilizzabile venga per primo — questo abilita anche il prompt caching, che è un compagno naturale del context engineering.
Quando vuoi consegnare un documento lungo a Claude, la regola sul posizionamento batte il volume grezzo ogni volta:
Istruzione-prima, ribadita-dopo
Compito: Trova ogni clausola in cui questo contratto limita la nostra responsabilità, e cita ciascuna verbatim con il suo numero di sezione. [... incolla qui il contratto completo di 40 pagine ...] Promemoria del compito: elenca ogni clausola di limitazione di responsabilità qui sopra, citata esattamente, con i numeri di sezione. Se non ce ne sono, dillo esplicitamente.
La stessa istruzione si trova in cima e in fondo — le due posizioni favorite dall'attenzione — così sopravvive anche a un mezzo molto lungo.
Il cambio di mentalità
Il prompt engineering chiede: "Cosa dovrei dire?" Il context engineering chiede: "Cosa dovrebbe vedere il modello, in che ordine, e cosa dovrei deliberatamente tenere fuori?"
La seconda domanda è più difficile, ma è quella che determina davvero la qualità su larga scala.
Check yourself
0/3- La finestra di contesto è un budget di attenzione, non un'archiviazione — spendila solo su token ad alto segnale.
- La posizione batte il volume: le istruzioni critiche vanno in cima e appena prima del turno finale, mai sepolte nel mezzo.
- Compaction, note-taking e just-in-time retrieval sono le tre tattiche che mantengono coerenti gli agenti a lungo orizzonte.
- Curare il contesto è la stessa leva del tagliare i costi — meno token, risposte migliori, fattura più bassa.