Zum Hauptinhalt springen

Embeddings & Vektorsuche

Fortgeschritten

Ein Embedding verwandelt ein Stück Text in eine Liste von Zahlen (einen Vektor), die seine Bedeutung erfasst. Texte mit ähnlicher Bedeutung erhalten Vektoren, die nah beieinander liegen — selbst wenn sie kein einziges Wort teilen. Das ist der Trick hinter der semantischen Suche und RAG.

What you'll learn
  • Ein Embedding als Punkt in einem Raum begreifen, der so angeordnet ist, dass ähnliche Bedeutungen nahe beieinander liegen
  • Stichwortsuche von semantischer Suche unterscheiden — und wissen, warum die hybride Suche meist gewinnt
  • Die vier Schritte einer Vektorsuche nachvollziehen, vom Chunking bis zur Nächste-Nachbarn-Suche
  • Die drei Fehler vermeiden, die die Retrieval-Qualität unbemerkt ruinieren: ungeeignete Chunk-Größen, vermischte Embedding-Modelle und fehlende Metadaten-Filter
  • Entscheiden, wann du wirklich eine Vektordatenbank brauchst und wann nicht

Die Intuition​

Stell dir vor, jeder Satz wird als Punkt in einem riesigen mehrdimensionalen Raum platziert, so angeordnet, dass ähnliche Bedeutungen nahe beieinander liegen. "Wie setze ich mein Passwort zurück?" landet nahe bei "Ich habe meinen Login vergessen", weit entfernt von "beste Pizza in Rom".

Semantische vs. Stichwortsuche​

  • Stichwortsuche gleicht wörtliche Begriffe ab ("Passwort" findet "Passwort").
  • Semantische Suche gleicht Bedeutung ab — "Ich kann mich nicht anmelden" findet das Passwort-Zurücksetzen-Dokument, auch ohne das Wort "Passwort".

Die besten Ergebnisse kombinieren oft beides (hybride Suche).

Wie eine Vektorsuche funktioniert​

Guided walkthrough1 of 4
  1. Teile jedes Dokument zuerst in Chunks auf, embedde dann jeden Chunk und speichere die Vektoren in einer Vektordatenbank. Dieser Schritt wird einmal im Voraus erledigt.

Praktische Hinweise​

  • Chunking ist entscheidend. Zu groß = verrauschte Treffer; zu klein = verlorener Kontext. Stimme es ab.
  • Verwende konsequent ein einziges Embedding-Modell — Vektoren aus verschiedenen Modellen sind nicht vergleichbar.
  • Metadaten + Filter (Datum, Quelle, Typ) machen das Retrieval weitaus präziser.
  • Eine Vektor-DB ist nicht immer nötig — für kleine Korpora reicht eine einfache In-Memory-Suche aus.
Drücke Enter oder die Leertaste, um die Karte umzudrehen. Nutze die Pfeiltasten links und rechts, um zwischen den Karten zu wechseln.Begriff angezeigt.
1 / 9

Check yourself

0/3
  1. Jemand sucht nach "Ich kann mich nicht anmelden" und erhält das Passwort-Zurücksetzen-Dokument, das die Formulierung "anmelden" nie verwendet. Was hat das möglich gemacht?
  2. Du embeddest deine Dokumente mit einem neueren Embedding-Modell neu, lässt den bestehenden Anfragepfad aber unverändert. Was geht kaputt?
  3. Deine abgerufenen Chunks passen thematisch, verfehlen aber immer wieder das Detail, das die Antwort brauchte. Welcher Stellhebel ist der erste Verdächtige?
Key takeaways
  • Ein Embedding ist Bedeutung als Punkt im Raum — Nähe heißt ähnliche Bedeutung, nicht gemeinsame Wörter.
  • Semantische Suche findet, was die Stichwortsuche übersieht, aber hybride Suche schlägt meist beide Einzelverfahren.
  • Vier Schritte: Chunks embedden und speichern, die Anfrage embedden, nächste Vektoren finden, die Chunks zurückgeben.
  • Ein Embedding-Modell, konsequent auf beiden Seiten eingesetzt. Vektoren aus verschiedenen Modellen sind nicht vergleichbar.
  • Chunk-Größe und Metadaten-Filter tun mehr für die Retrieval-Qualität als die Wahl der Vektordatenbank.
  • Für einen kleinen Korpus reicht eine einfache In-Memory-Suche — eine Vektor-DB ist keine Voraussetzung.

Weiter​