Wie das Gedächtnis von Agenten wirklich funktioniert
Stelle einem Chatbot dieselbe Frage zweimal in zwei Sitzungen, und er antwortet beide Male wie ein Fremder. Das ist kein Bug — es ist der Standard. Ein reines Sprachmodell hat kein Gedächtnis zwischen den Aufrufen. Alles, woran es sich innerhalb einer Konversation "erinnert", lebt im Kontextfenster, und wenn diese Konversation endet, ist es weg.
Gedächtnis ist die Maschinerie, die du daraufsetzt, um das zu beheben: die Systeme, die entscheiden, was ein Agent mitnehmen soll, wo er es speichert und wie er das richtige Stück im richtigen Moment zurückholt. Im Jahr 2026 hörte das auf, eine Nebenquest zu sein, und wurde zu einem erstklassigen Bestandteil des Agenten-Designs, mit eigenen Benchmarks, Frameworks und einer echten Forschungsliteratur. Diese Seite ist die Landkarte.
- Verstehen, warum ein Kontextfenster kein Gedächtnis ist — und wo die Grenze tatsächlich verläuft
- Die vier Gedächtnistypen unterscheiden, die Agenten nutzen: Arbeits-, episodisches, semantisches, prozedurales Gedächtnis
- Die vier Speichermuster vergleichen: Full-Context, Vector/RAG, Knowledge-Graph und Compaction/Zusammenfassung
- Sehen, wie Claude, ChatGPT und Gemini Gedächtnis heute jeweils umsetzen
- Einen Gedächtnisansatz für den eigenen Agenten wählen, ohne ihn zu überkonstruieren
Die eine Idee, an der man festhalten sollte: Kontext ≠ Gedächtnis
Die häufigste Verwechslung ist, ein großes Kontextfenster als "Gedächtnis" zu behandeln. Ist es nicht. Das Kontextfenster ist Arbeitsraum für einen Zug — es wird bei jedem Aufruf von Grund auf neu befüllt, es ist endlich und es ist teuer. Die Aufmerksamkeit lässt zudem über das Fenster hinweg nach (der "Lost in the Middle"-Effekt, der in Context Engineering behandelt wird).
Gedächtnis ist auf drei Weisen anders:
| Kontextfenster | Gedächtnis | |
|---|---|---|
| Lebensdauer | Eine Anfrage | Über Sitzungen, Tage, für immer |
| Größe | Feste Token-Obergrenze | Praktisch unbegrenzt (externer Speicher) |
| Kosten | Bei jedem einzelnen Zug bezahlt | Einmal zum Schreiben bezahlt; günstig zu referenzieren |
| Zugriff | Alles, immer im Blick | Selektiv — nur abrufen, was relevant ist |
Das ganze Spiel des Agenten-Gedächtnisses besteht darin, die richtige Information zwischen diesen beiden zu verschieben: dauerhafte Fakten aus dem Fenster hinausschreiben, damit du nicht bei jedem Zug für sie bezahlst, und sie nur dann wieder hineinholen, wenn dieser konkrete Schritt sie braucht. Bring diesen Fluss richtig hin, und ein Agent kann wochenlang auf einem Kontextfenster operieren, das immer nur ein paar Tausend relevante Tokens enthält.
Die vier Arten von Gedächtnis
In (loser) Anlehnung an die Kognitionswissenschaft hat sich das Agenten-Ökosystem 2026 auf vier Kategorien geeinigt. Du brauchst selten alle vier — aber sie zu benennen hält dich davon ab, einen einzigen Klumpen zu bauen, der alles schlecht macht.
- Was gerade im Kontextfenster ist — die aktuelle Aufgabe, die letzten paar Züge, die Tool-Ergebnisse dieses Schritts. Per Design flüchtig. Das ist der Notizblock, nicht das Archiv. Es gut zu verwalten ist Context Engineering; es ist keine Persistenz.
- Konkrete Dinge, die passiert sind, mit einem Zeitstempel. 'Am Dienstag sagte der Nutzer, der Checkout sei kaputt; am Mittwoch markierte der Support es als gelöst.' Episodisches Gedächtnis ist von Natur aus zeitlich — die Reihenfolge und das Wann sind wichtig. Es ist das, was einem Agenten erlaubt, über eine Geschichte statt über eine Momentaufnahme nachzudenken.
- Dauerhafte Fakten und Präferenzen, losgelöst davon, wann du sie gelernt hast. 'Der Nutzer bevorzugt metrische Einheiten.' 'Dieser Kunde ist im Enterprise-Plan.' Semantisches Gedächtnis ist weitgehend atemporal — es repräsentiert, was der Agent für derzeit wahr hält, nicht das Ereignis, bei dem er es herausfand.
- Wie man etwas tut — wiederverwendbare Fähigkeiten, Workflows und erlernte Routinen. In der Praxis das am wenigsten ausgereifte der vier. In Tools wie Claude Code lebt das oft als Instruktionsdateien (CLAUDE.md) und wiederverwendbare Skills statt als automatischer Speicher.
Ein nützlicher Test: Wenn du mit "wann ist das passiert?" antworten würdest, ist es episodisch; wenn du mit "was ist wahr?" antworten würdest, ist es semantisch; wenn du mit "so geht's" antworten würdest, ist es prozedural; und wenn es nur für die nächsten paar Sekunden von Bedeutung ist, ist es Arbeitsgedächtnis und muss überhaupt nicht persistiert werden.
Die vier Speichermuster
Sobald du weißt, was du dir merken willst, wählst du, wie du es speicherst und abrufst. Es gibt vier dominante Muster, grob in der Reihenfolge der Komplexität. Die meisten realen Systeme kombinieren zwei oder drei.
1. Full-Context (alles reinstopfen)
Behalte die gesamte Historie und schicke sie bei jedem Zug erneut. Null Infrastruktur, perfekte Erinnerung — bis du an die Token-Obergrenze, die Kostenkurve oder "Lost in the Middle" stößt. In Ordnung für kurze Assistenten; eine Sackgasse für alles Langlaufende. Das ist die Grundlinie, die jedes andere Muster verbessert.
2. Vector-/RAG-Gedächtnis
Schreibe jede Erinnerung als Embedding in eine Vektordatenbank; zur Abfragezeit embeddest du den aktuellen Zug und rufst die Top-k ähnlichsten Erinnerungen ab. Das ist Retrieval-Augmented Generation, auf die Konversationshistorie statt auf Dokumente gerichtet. Günstig, skalierbar und der Standard für die semantische Wiedergabe von Fakten und Präferenzen.
Seine Schwäche: Ähnlichkeit ≠ Relevanz bei zeitlichen oder mehrstufigen (multi-hop) Fragen. "Was haben wir nachdem das Budget gekürzt wurde entschieden?" ist eine Reihenfolgefrage, und die Kosinus-Ähnlichkeit hat keinen Sinn für Zeit oder dafür, zwei Fakten miteinander zu verketten.
3. Knowledge-Graph-Gedächtnis
Speichere Erinnerungen als Entitäten und Beziehungen — Knoten und Kanten, oft mit Zeitstempeln an den Kanten. Um eine Frage zu beantworten, durchläufst du den Graphen, statt Vektoren unscharf abzugleichen. Das ist es, was mehrstufiges und zeitliches Schlussfolgern handhabbar macht ("wer ersetzte die Person, die den Account besaß, über den sich der Nutzer beschwerte?"). Frameworks wie Zep/Graphiti bauten ihren gesamten Pitch um temporale Knowledge Graphs. Der Preis ist echte Entwicklungsarbeit: Extraktion, Entitätsauflösung und den Graphen davor bewahren, zu verrotten.
4. Compaction & Zusammenfassung
Komprimiere periodisch die laufende Historie in eine destillierte Zusammenfassung und mach von dort aus weiter — und tausche wortgetreue Erinnerung gegen ein kleineres, günstigeres Fenster. Das ist es, was /compact in Claude Code tut, und was "Auto-Summary" in vielen Chat-Produkten tut. Es ist die günstigste Form des Langzeitgedächtnisses und oft die erste, die du tatsächlich brauchst. Sein Risiko: Die Zusammenfassung lässt still das eine Detail fallen, das du gebraucht hättest. Siehe Long-Running Agent Harnesses dafür, wie sich das über stundenlange Läufe hinweg auswirkt.
Reale Systeme schichten diese. Ein üblicher 2026er-Stack: Compaction für die laufende Konversation, Vector für semantische Fakten und ein Graph obendrauf nur dann, wenn zeitliche/mehrstufige Abfragen tatsächlich in deinem Traffic auftauchen. Bau den Graphen nicht, bevor du den Schmerz spürst, den der Graph löst.
Wie die großen drei es machen
Jeder große Assistent liefert inzwischen irgendein Gedächtnis mit. Sie sind nicht dasselbe, und die Unterschiede sind wichtig.
| Produkt | Was es sich merkt | Wie es funktioniert (grob) |
|---|---|---|
| Claude | Zwei Ebenen: ein App-Level-Gedächtnis deiner Präferenzen und ein entwicklerseitiges Memory-Tool für Agenten. | Das Claude App Memory speichert Fakten über Chats hinweg; das API-Memory-Tool plus Context Editing lässt einen Agenten Notizen in einen clientseitigen Speicher schreiben und veraltete Tool-Ergebnisse automatisch beschneiden, um lange Läufe zu überstehen. |
| ChatGPT | "Gespeicherte Erinnerungen" (explizite Fakten) plus Bezug auf deine vergangenen Chats. | Eine Mischung aus vom Nutzer angegebenen Fakten und automatisch extrahierten Präferenzen, die in späteren Zügen in den Systemkontext eingespeist werden. Vom Nutzer bearbeitbar und umschaltbar. |
| Gemini | Persönlicher Kontext, gezogen aus deinen Chats und, optional, aus der breiteren Google-Account-Oberfläche. | Ruft Details aus vorherigen Konversationen ab und kann mithilfe des Account-Kontexts personalisieren, vorbehaltlich deiner Datenschutzeinstellungen. |
Zwei Erkenntnisse. Erstens: Consumer-Gedächtnis ist meist semantisch — Präferenzen und Fakten — kein vollständiges episodisches Wiederabspielen. Zweitens: Wenn du einen Agenten baust, ist das eingebaute Gedächtnis des Produkts nicht dein Gedächtnissystem; diese Ebene gehört dir, mithilfe von Primitiven wie Claudes Memory-Tool oder einem externen Framework.
Ein reines Modell in einen notizenmachenden Agenten verwandeln (das günstigste echte Gedächtnis)
You have a file called MEMORY.md that persists between our sessions. At the END of each session, append any durable facts worth keeping: - my stable preferences (tools, formats, style) - decisions we made and WHY - open threads to resume next time At the START of each session, read MEMORY.md first and use it. Keep it under 30 lines — when it grows past that, consolidate and delete anything stale. Never store secrets or credentials.
Dieses eine Muster — dauerhafte Notizen in eine externe Datei schreiben, sie beim nächsten Mal zurücklesen — ist das 80/20 des Agenten-Gedächtnisses. Die meiste Framework-Maschinerie weiter unten ist eine automatischere, skalierbarere Version genau dessen.
Gedächtnis messen: der LoCoMo-Benchmark
Du kannst nicht verbessern, was du nicht messen kannst, und Gedächtnis war schwer zu messen, bis die Benchmarks kamen. Der meistzitierte ist LoCoMo ("Evaluating Very Long-Term Conversational Memory of LLM Agents"): sehr lange Multi-Session-Konversationen — Hunderte Züge über Dutzende Sitzungen hinweg — mit Frage-Antwort-Paaren in fünf Geschmacksrichtungen: Single-Hop, Multi-Hop (sitzungsübergreifend), zeitliches Schlussfolgern, Open-Domain und adversarial.
Was LoCoMo enthüllt, ist das Muster, um das herum man entwerfen sollte: Systeme schlagen sich bei Single-Hop-Faktenwiedergabe gut und fallen bei zeitlichen und mehrstufigen Fragen auseinander. Genau dieser Fehlermodus ist der Grund, warum Knowledge-Graph-Gedächtnis existiert — es ist das Muster, das diese beiden Kategorien am meisten hebt. Wenn du das Gedächtnis deines eigenen Agenten evaluierst, gewichte die Multi-Hop- und zeitlichen Fälle stark; Single-Hop-Wiedergabe schmeichelt fast allem.
Einen Ansatz wählen, ohne zu überkonstruieren
- Tu nichts. Arbeitsgedächtnis (das Kontextfenster) reicht aus. Hier einen Gedächtnisspeicher hinzuzufügen ist reiner Overhead.
- Beginne mit Notizenmachen in eine externe Datei oder mit dem eingebauten Gedächtnis des Produkts. Das deckt die meisten 'erinnere dich an meine Präferenzen'-Bedürfnisse zu nahezu null Kosten ab.
- Füge Compaction/Zusammenfassung hinzu. Behalte die tragenden Fakten, lass das Zug-für-Zug-Protokoll fallen. Hier leben langlaufende Agenten.
- Füge Vector-/RAG-Gedächtnis hinzu. Rufe pro Zug die Top-k relevanten Erinnerungen ab, statt alles erneut zu schicken.
- Erst jetzt greif zu einem Knowledge Graph — oder zu einem verwalteten Framework (Mem0, Letta, Zep, LangMem), das dir einen gibt, ohne Extraktion und Entitätsauflösung selbst zu bauen.
Die Falle ist, bei Schritt fünf anzufangen. Graph-Gedächtnis ist in Demos beeindruckend und in der Produktion teuer. Erklimme die Leiter; halte an der ersten Sprosse an, die dein tatsächliches Problem löst.
Check yourself
0/4Das Fazit
Gedächtnis ist nicht ein Feature, das du einschaltest — es ist ein Fluss, den du entwirfst: was das Fenster verlässt, wo es gespeichert wird und wie es zurückkommt. Benenne die vier Gedächtnistypen, damit du nicht einen einzigen Klumpen für alle baust. Beginne beim günstigsten Speichermuster, das dein Problem löst, und klettere erst weiter, wenn du den Schmerz des nächsten spürst. Und miss mit zeitlichen und mehrstufigen Fällen, denn Single-Hop-Wiedergabe lässt alles klüger aussehen, als es ist.
Gedächtnis ist die andere Hälfte von Context Engineering: Context Engineering entscheidet, was das Fenster in diesem Zug füllt; Gedächtnis entscheidet, was zwischen den Zügen überlebt. Zusammen sind sie es, was einen Chatbot von einem Agenten unterscheidet, der besser wird, je länger du mit ihm arbeitest.
Quellen & weiterführende Lektüre
- Evaluating Very Long-Term Conversational Memory of LLM Agents (LoCoMo) — der kanonische Benchmark; Projektseite.
- Effective context engineering for AI agents — Anthropic über Compaction, Notizenmachen und Just-in-Time-Retrieval.
- Claude memory tool & context editing docs — das entwicklerseitige Primitiv.
- Agent Memory Techniques — 30 lauffähige Notebooks zu Konversationspuffern, Vector Stores, Knowledge Graphs, episodischem/semantischem Gedächtnis, Mem0, Letta, Zep, Graphiti und LoCoMo.
- The State of AI Agent Memory 2026 — Anbieterbericht über Gedächtnisarchitekturen und Benchmarks (mit der üblichen Vorsicht vor selbstberichteten Zahlen lesen).
- Verwandtes auf AILmanac: Context Engineering · Long-Running Agent Harnesses · RAG · Claude app memory · Memory & Context Editing (API).