Zum Hauptinhalt springen

Kimi K2 für Claude-Nutzer

Fortgeschritten

Du denkst bereits in Claude. Dann hört r/LocalLLaMA nicht mehr auf, über Kimi K2 zu reden — ein chinesisches Open-Weight-Modell, das viele „das offene Claude für Agenten“ nennen. Ein Kollege will es auf eigener Hardware betreiben; ein Projekt braucht Gewichte, die es tatsächlich herunterladen kann; jemand reicht dir eine OpenAI-förmige Codebasis und fragt, ob Moonshot ein günstigeres Backend ist. Diese Seite überträgt dein Claude-Denkmodell auf die Kimi-K2-Familie von Moonshot AI und — nützlicher noch — nennt dir die Handvoll Dinge daran, die Leute wirklich überraschen, jedes belegt.

What you'll learn
  • Verstehen, was Kimi K2 tatsächlich ist: ein sparse MoE mit 1 Billion Parametern, aber nur 32 Mrd. aktiven pro Token
  • Die drei nicht offensichtlichen Dinge kennen, die K2 anders macht als ein typisches Modell-Release (native INT4-Gewichte, Tool-Ketten über 200–300 Schritte, eine wirklich freizügige Lizenz)
  • Die K2-Linie kennen — K2-Instruct, K2 Thinking und die K2.x-Code-Reihe — und wissen, zu welcher man greift
  • Eine Claude- oder OpenAI-förmige Codebasis in wenigen Zeilen auf Kimi zeigen lassen und wissen, wann es besser ist als zu Claude zu greifen

Die Ein-Satz-Version​

Kimi K2 ist ein Open-Weight-Modell (herunterladbar, selbst hostbar), ein Mixture-of-Experts mit einer Billion Parametern von Moonshot AI, speziell auf agentische Tool-Nutzung getrimmt — lange Ketten aus „Tool aufrufen, Ergebnis lesen, nächsten Zug entscheiden“ — und unter einer Lizenz veröffentlicht, die freizügig genug für den kommerziellen Einsatz ist.

Genau dieser „Open-Weight“-Teil ist der ganze Grund, sich dafür zu interessieren. Claudes Gewichte verlassen Anthropic nie; du mietest das Modell über eine API. Die Gewichte von Kimi K2 liegen auf Hugging Face — du kannst sie herunterladen, in deinem eigenen Rechenzentrum betreiben, feintunen und inspizieren. Wenn deine Einschränkung Daten dürfen unser Netzwerk nicht verlassen oder wir müssen das Modell besitzen lautet, ist das eine andere Kategorie von Werkzeug als Claude, keine günstigere Variante davon. (Für die Claude-seitigen Entsprechungen von Self-Hosting und Hybrid-Setups siehe Claude + lokale Modelle und ein Modell wählen.)

Drei Dinge an K2, die Leute überraschen​

Die meisten „neues Open-Modell“-Seiten geben nur die Benchmark-Tabelle wieder. Hier sind die Teile, die tatsächlich nicht offensichtlich sind — die Dinge, die die meisten Claude-Nutzer nicht wissen, bis jemand darauf hinweist.

1. Es hat eine Billion Parameter, aber nur ~3 % feuern gleichzeitig​

K2 ist ein sparse Mixture-of-Experts: 1 Billion Parameter insgesamt, aber nur 32 Milliarden aktiviert pro Token. Der Router wählt für jedes Token 8 Experten aus 384 aus (plus einen stets aktiven geteilten Experten). Das Modell besitzt also die Wissenskapazität eines Netzwerks mit einer Billion Parametern, aber jeder Vorwärtsdurchlauf zahlt nur für ~32 Mrd. an Rechenaufwand.

Warum das für dich zählt: „1 Bio. Parameter“ klingt, als bräuchte es einen Supercomputer, und um die Gewichte zu halten, braucht es das auch (das ist viel VRAM). Aber die Inferenzkosten pro Token folgen der Zahl der 32 Mrd. aktiven, nicht der Billion. Das ist dieselbe architektonische Wette hinter DeepSeeks und Qwens größeren MoE-Modellen — siehe DeepSeek- & Qwen-Open-Modelle für die Familienähnlichkeit.

2. Die veröffentlichten Gewichte sind bereits INT4 — mit Absicht​

Normalerweise lädt man ein Modell in voller Präzision herunter und quantisiert es danach selbst, damit es passt, und verliert dabei ein wenig Qualität. Kimi K2 Thinking dreht das um: Moonshot wandte während des Post-Trainings Quantization-Aware Training (QAT) an und liefert die MoE-Gewichte nativ in INT4 aus. Weil das Modell darauf trainiert wurde, INT4 zu sein, ist die Quantisierung nahezu verlustfrei — und Moonshot berichtet dadurch von etwa 2× schnellerer Generierung.

Die praktische Folge: Die „kleine, schnelle“ Version ist kein degradierter Nachgedanke — sie ist das Referenzmodell. Du wählst nicht zwischen „dem echten“ und „dem quantisierten“.

Pro tip
  • Faustregel: Ein INT4-Modell braucht rund ein halbes Byte pro Parameter, um die Gewichte zu halten. Ein INT4-Modell mit einer Billion Parametern ist immer noch ein ernstes Multi-GPU-Deployment — 'Open Weight' heißt nicht 'läuft auf deinem Laptop'. Plane entsprechend, oder miete es über einen gehosteten Endpunkt.

3. Es bleibt über 200–300 Tool-Aufrufe kohärent​

Das ist die Zahl, die K2 Thinking zur Geschichte machte. Moonshot berichtet, das Modell halte kohärentes, zielgerichtetes Verhalten über bis zu 200–300 aufeinanderfolgende Tool-Aufrufe — wo, ihrer Darstellung nach, frühere Agentensysteme nach 30–50 Schritten dazu neigen, abzudriften oder den Faden zu verlieren.

Wenn du Agenten gebaut hast, kennst du den Fehlermodus: Zehn Schritte lang ist alles gut, dann vergisst es sein eigenes Ziel, wiederholt einen Tool-Aufruf oder halluziniert ein Ergebnis. Ein Modell, das darauf getrimmt ist, Hunderte Schritte zu überstehen, zielt direkt auf den Langzeit-Agenten — Recherche-Schleifen, Refactorings über mehrere Dateien, Browse-dann-synthetisieren-Aufgaben. Es ist dasselbe Problem, um das Claudes Agenten-Tooling gebaut ist, angegangen von der Open-Weight-Seite.

Die K2-Linie — welche willst du?​

„Kimi K2“ ist eine Familie, kein einzelnes Modell. Die drei, denen du tatsächlich begegnest:

Drücke Enter oder die Leertaste, um die Karte umzudrehen. Nutze die Pfeiltasten links und rechts, um zwischen den Karten zu wechseln.Begriff angezeigt.
1 / 6

Was von Claude übertragbar ist (fast alles)​

Deine Prompting-Instinkte tragen. Klare Anweisungen, explizite Ausgabeformate, Few-Shot-Beispiele, „denk Schritt für Schritt“, dem Modell Tools mit guten Beschreibungen geben — all das funktioniert gleich, weil es Eigenschaften instruction-getunter Transformer sind, nicht speziell von Claude. Wenn du die tiefere Version warum Techniken zwischen Modellen wandern willst, siehe Prompts über Modelle portieren.

Zwei echte Unterschiede, die du im Kopf behalten solltest:

  • Tool-Call-Format. K2s API ist OpenAI-kompatibel, sodass Tool-/Function-Definitionen dem OpenAI-Schema folgen, nicht Anthropics tools-Block. Wenn du von Claudes API kommst, ist das die wesentliche Formänderung. (Von einer OpenAI-Codebasis kommend ist es nahezu ein Drop-in.)
  • Reasoning ist ein Modus, kein Regler. Bei Claude stellst du Thinking und Effort ein. K2 Thinking und die Code-Reihe sind immer im Denkmodus und bewahren das Reasoning über Turns hinweg; du wählst das Modell, statt den Effort pro Aufruf zu drehen.

Probier es in wenigen Zeilen​

Weil die API OpenAIs Dialekt spricht, richtest du einen bestehenden OpenAI-Client auf Moonshots Base-URL und tauschst den Modellnamen. Kein neues SDK.

Kimi K2 über den OpenAI-kompatiblen Endpunkt aufrufen (Python)

from openai import OpenAI

client = OpenAI(
  api_key="YOUR_MOONSHOT_KEY",
  base_url="https://api.moonshot.ai/v1",   # OpenAI-compatible
)

resp = client.chat.completions.create(
  model="kimi-k2-thinking",                # or a K2 Code model
  messages=[
      {"role": "system", "content": "You are a careful research agent. Use tools; verify before you conclude."},
      {"role": "user", "content": "Find the three most-starred MCP server repos and summarize what each does."},
  ],
  # tools=[...]  # OpenAI-style function/tool schema
)

print(resp.choices[0].message.content)
Guided walkthrough1 of 4
  1. Für Self-Hosting die Gewichte aus Moonshots Hugging-Face-Repo ziehen. Zum bloßen Ausprobieren Moonshots gehostete API (OpenAI-kompatibel) oder einen Aggregator wie OpenRouter nutzen.

Wann man zu Kimi K2 statt Claude greift​

Keines ist grundsätzlich besser — sie lösen unterschiedliche Einschränkungen. Zu Kimi K2 greifen, wenn:

  • Du die Gewichte brauchst. Air-gapped Daten, On-Prem-Compliance, „das Modell darf unser Netzwerk nicht verlassen“ oder du willst auf proprietären Daten feintunen. Das ist der entscheidende Grund, und Claude kann ihn per Design nicht erfüllen.
  • Du eine freizügige Lizenz willst. K2 kommt unter einer Modified MIT License, die sowohl Code als auch Gewichte abdeckt — ungewöhnlich liberal für ein Modell in Frontier-Größe und kommerziell freundlich.
  • Die Aufgabe eine lange, tool-lastige Agenten-Schleife ist und du ein offenes Modell willst, das speziell für diese Ausdauer gebaut wurde.

Zu Claude greifen, wenn du die verwaltete Plattform rund um das Modell willst — Prompt-Caching, Memory und Context-Editing, Managed Agents, Computer Use, die Desktop-App und einen Support-/Safety-Stack, den du nicht selbst betreiben musst. Bei Claude mietest du Fähigkeit; bei K2 besitzt du Gewichte und betreibst die Infrastruktur. Dieser Handel — besitzen-und-betreiben vs. mieten-und-entspannen — ist die eigentliche Entscheidung, keine Benchmark-Lücke. Für die Kostenseite dieses Vergleichs über Anbieter hinweg siehe was KI über Anbieter hinweg kostet.

Kimi K2 Thinking, in Zahlen​

Moonshots eigene berichtete Werte für das K2-Thinking-Release, zur Orientierung (siehe VerifyNote oben — diese bewegen sich):

  • Architektur: 1 Bio. Gesamtparameter · 32 Mrd. aktiv · 384 Experten (8 gewählt + 1 geteilt) · MLA-Attention · 61 Layer
  • Kontext: ~256K Token
  • Gewichte: nativ INT4 via QAT, ~2× schnellere Generierung
  • Agentische Ausdauer: kohärent über 200–300 sequenzielle Tool-Aufrufe
  • Benchmarks (von Moonshot berichtet): HLE mit Tools 44.9 · BrowseComp 60.2 · SWE-bench Verified 71.3 · LiveCodeBench V6 83.1
  • Lizenz: Modified MIT

Check yourself

0/3
  1. Kimi K2 hat 1 Billion Parameter. Wie viele sind ungefähr pro Token aktiv?
  2. Was ist ungewöhnlich daran, wie die Gewichte von Kimi K2 Thinking quantisiert sind?
  3. Was ist der einzelne entscheidendste Grund, Kimi K2 statt Claude zu wählen?

Quellen & weiterführende Lektüre​