Few-Shot-Beispiele richtig gemacht
- Was Few-Shot-Prompting ist und warum Beispiele Beschreibungen schlagen
- Wie man einen sauberen Few-Shot-Prompt liest, den das Modell vervollständigt
- Wie man Beispiele wählt, formatiert und ordnet (einschließlich Randfälle)
- Wann man zu Zero-Shot statt Few-Shot greift
- Warum ein schludriges Beispiel schlimmer ist als gar kein Beispiel
Few-Shot-Prompting bedeutet, dem Modell ein paar durchgearbeitete Beispiele der Aufgabe zu zeigen, bevor man es bittet, eine neue zu lösen. Gut gemacht ist es der schnellste Weg, ein Format, einen Stil oder ein Randfall-Verhalten festzuzurren — oft besser, als in Worten zu beschreiben, was man will.
Warum Beispiele Beschreibungen schlagen
„Sei prägnant und freundlich“ ist vage. Zwei prägnante, freundliche Ausgaben zu zeigen ist eindeutig. Das Modell gleicht die Beispiele per Mustererkennung ab und setzt das Muster fort.
Ein sauberer Few-Shot-Prompt
Achte auf die Form: mehrere Message → Label-Paare in identischem Format, dann eine letzte Nachricht mit leerem Label:, das das Modell ausfüllt.
Few-shot classification prompt
Classify each support message as: billing, bug, or feature. Message: "I was charged twice this month." Label: billing Message: "The app crashes when I upload a photo." Label: bug Message: "Can you add dark mode?" Label: feature Message: "My subscription renewed at the wrong price." Label:
Das Modell hat das Muster; es vervollständigt die letzte Zeile.
Wie man Beispiele wählt und formatiert
- Nimm die Randfälle auf, die dir wichtig sind. Wenn eine Kategorie selten oder knifflig ist, nimm sie auf.
- Gleiche Struktur, gleiche Labels, gleiche Trennzeichen. Inkonsistenz lehrt Inkonsistenz.
- 2–5 reichen oft. Mehr hilft bei schwierigen/variantenreichen Aufgaben, kostet aber Tokens und kann an die Eigenheiten der Beispiele überanpassen.
- Die Reihenfolge kann zählen — setze die klarsten Beispiele zuerst; bei Klassifizierung gruppiere nicht alle eines Labels zusammen.
- Verwende Trennzeichen (oder XML-Tags), um Beispiele von der Eingabe zu trennen, die du tatsächlich gelabelt haben willst.
Die obigen Token-Kosten sind real — siehe Tokens & Kontext. Für den Trennzeichen-Ansatz sind XML-Tags ein sauberer, zuverlässiger Trenner.
Zero-Shot vs. Few-Shot
Probiere zuerst Zero-Shot (einfach fragen) — moderne Modelle sind stark. Füge Beispiele hinzu, wenn du ein bestimmtes Format/Stil brauchst oder die Aufgabe mehrdeutig ist. Wenn Zero-Shot es schon trifft, zahle nicht für Beispiele.
- Beispiele sind Daten — halte sie sauber. Ein falsches oder schludriges Beispiel lehrt aktiv das Falsche. Kuratiere sie wie Trainingsdaten.
- Zeigen, nicht erzählen: durchgearbeitete Beispiele schlagen vage Beschreibungen.
- Decke die Vielfalt ab, besonders Randfälle, und halte jedes Beispiel in einem identischen Format.
- 2–5 Beispiele reichen meist; mehr kann überanpassen und kostet Tokens.
- Die Reihenfolge zählt — klarste zuerst, und gruppiere nicht ein Label zusammen.
- Beginne mit Zero-Shot; füge Beispiele nur für bestimmtes Format/Stil oder Mehrdeutigkeit hinzu.