Allucinazioni e come ridurle
Un'allucinazione è quando un modello afferma qualcosa di falso con totale sicurezza. Non sta mentendo e non è guasto — è il rovescio della medaglia di come funzionano gli LLM: generano testo plausibile, e plausibile non è sempre vero (vedi Cos'è un LLM?). Non puoi eliminarlo del tutto con un prompt, ma puoi ridurlo drasticamente e intercettare il resto.
Perché succede
Il modello predice una continuazione probabile. Quando non "sa" qualcosa, la continuazione dall'aspetto più probabile è spesso una risposta sicura, ben formata — e sbagliata. Non c'è un segnale integrato di "non sono sicuro" a meno che tu non crei lo spazio per uno.
Le zone ad alto rischio
Sii il più scettico possibile quando l'output riguarda:
- Citazioni, virgolettati e riferimenti — articoli inventati, URL falsi, citazioni attribuite male.
- Numeri, date e statistiche specifici — cifre plausibili ma inventate.
- Fatti di nicchia o molto recenti — al di là di ciò che il modello ha appreso in modo affidabile.
- Dettagli di API e librerie — metodi o parametri che non esistono.
- Specifiche su persone e ambito legale/medico — alta posta in gioco, facile sbagliare in modo sottile.
Il kit di riduzione
Combinali — ciascuno aiuta:
- Ancoralo alle fonti. Incolla il testo sorgente e di' "rispondi solo dal testo qui sopra; se non c'è, dillo". È l'idea centrale dietro il RAG.
- Dagli una via d'uscita. Consenti esplicitamente "Se non sei sicuro, di' 'Non lo so'" — riduce drasticamente le ipotesi avanzate con sicurezza.
- Chiedi ragionamento e citazioni. "Cita la frase esatta che supporta ogni affermazione". Le affermazioni non supportate diventano evidenti.
- Abbassa la creatività per i task fattuali dove il modello espone un controllo della temperatura (vedi Controlli di campionamento).
- Usa gli strumenti. Per la matematica, dati attuali o ricerche, dai al modello una calcolatrice/ricerca/strumento invece di fidarti del ricordo.
- Verifica incrociata. Poni la stessa domanda in due modi, o fai criticare la prima risposta da un secondo passaggio.
La mentalità che ti protegge davvero
:::warning Verifica ciò che conta — sempre Nessun prompt rende l'output affidabile al 100%. Per qualsiasi cosa importante — un numero in un report, una citazione, un comando che eseguirai, un dettaglio medico/legale/finanziario — verificalo rispetto a una fonte affidabile. Tratta l'AI come una bozza rapida, non come autorità finale. Questo è il cuore dell'Uso responsabile. :::
Una regola semplice: il costo di sbagliare determina la quantità di verifica. Brainstorming? Fidati liberamente. Pubblicare una statistica? Verifica ogni volta.