Zum Hauptinhalt springen

Kimi K3: Das weltweit größte Open-Weight-Modell

Fortgeschritten

Am 16. Juli 2026 veröffentlichte Moonshot AI Kimi K3 — ein Mixture-of-Experts-Modell mit 2,8 Billionen Parametern und derzeit die weltweit größte Open-Weight-Veröffentlichung in dieser Klasse. Die Schlagzeilen nannten es den Moonshot des chinesischen Labors. Die eigentlich relevante Zahl ist leiser: K3 erreichte den vierten Platz im Artificial Analysis Intelligence Index, hinter Claude Fable 5 und GPT-5.6 Sol, aber deutlich vor Claude Opus 4.8. Für ein Modell, dessen vollständige Gewichte am 27. Juli 2026 auf Hugging Face landen, ist das ein ungewöhnlicher Satz zum Aufschreiben.

Diese Seite behandelt, was an K3 wirklich nicht offensichtlich ist — die architektonischen Änderungen, die Preisfalle, die es teuer erscheinen lässt, bis man die Cache-Hit-Rate überprüft, und die spezifischen Aufgaben, bei denen es jedes andere Modell, ob offen oder geschlossen, übertrifft.

What you'll learn
  • Verstehen, warum 2,8 Billionen Parameter nicht 2,8 Billionen Rechenleistung bedeuten: die MoE-Arithmetik und wie spärliche Aktivierung funktioniert
  • Die drei architektonischen Innovationen in K3 kennenlernen (KDA, AttnRes, LatentMoE), die ihm eine 2,5-mal bessere Skalierungseffizienz als K2 verleihen
  • Die Cache-Hit-Preisrechnung kennen: warum K3 in realen Coding-Workloads näher an 0,30 $/M als an 3,00 $/M kostet
  • K3 in die Benchmark-Landschaft einordnen: wo es alle Modelle anführt, wo es zurückliegt und was die Vorbehalte zur Halluzinationsrate bedeuten
  • Mit der API in drei Zeilen mit einem OpenAI-kompatiblen Client loslegen

Die Ein-Satz-Version

Kimi K3 ist ein Open-Weight-Modell (vollständige Gewichte erscheinen am 27. Juli 2026), ein spärliches MoE mit 2,8 Billionen Parametern von Moonshot AI, abgestimmt auf langfristiges agentisches Coding und Wissensarbeit, mit nativer Vision und einem Kontextfenster von 1 Million Tokens — preislich wie eine Frontier-API, aber in der Praxis oft günstiger, weil Coding-Workloads den Prompt-Cache zu mehr als 90 % der Zeit treffen.

Drei Dinge über K3, die aus den Schlagzeilen nicht offensichtlich sind

1. "2,8 Billionen Parameter" bedeuten nicht 2,8 Billionen Aktivierungen pro Token

Die Schlagzeilenzahl ist dramatisch, aber K3 ist ein Mixture-of-Experts-Modell. Es hat 896 Experten-Subnetzwerke, und nur 16 Experten feuern pro Token — das ist die "Stable LatentMoE"-Komponente. Das Modell ist enorm im Speicher, aber kompakt in der Rechenleistung pro Forward-Pass. Bei der Inferenz ist der aktive Parameter-Footprint weit kleiner als 2,8 T. Dies ist der gleiche architektonische Kompromiss wie bei DeepSeek V4 Pro (das ebenfalls MoE verwendet), und deshalb kann ein Modell dieser Größe effizient auf handhabbarer Hardware laufen, sobald die Gewichte selbst gehostet werden.

Die praktische Implikation: Vergleiche Parameterzahlen nicht direkt zwischen dichten und MoE-Modellen. Ein 2,8-T-MoE mit 16/896 aktiven Experten hat ein anderes Rechenprofil als ein 70-B-dichtes Modell — und einen sehr unterschiedlichen Hardwarebedarf für das Selbst-Hosting.

2. Die Cache-Hit-Rate kippt die Kostenrechnung komplett

Die K3-API-Preise liegen bei 3,00 $/M Input-Tokens und 15,00 $/M Output-Tokens — auf den ersten Blick teuer. Aber Moonshot bietet einen Cache-Hit-Preis von 0,30 $/M Input (ein 10-facher Rabatt), und bei Coding-Workloads berichtet das Unternehmen von Cache-Hit-Raten über 90 %. Das bedeutet, dass der effektive Input-Preis pro Million Tokens für eine laufende Coding-Sitzung näher bei 0,30–0,45 $ liegt, nicht bei 3,00 $.

Hier ist der praktische Vergleich der Kosten auf Aufgaben-Ebene (aus Bewertungen Dritter):

ModellKosten pro agentische Aufgabe
Kimi K30,94 $
GPT-5.6 Sol1,04 $
Claude Opus 4.81,80 $

K3 verwendet außerdem 21 % weniger Output-Tokens als K2.6 — es hat gelernt, knapper zu sein — was die Rechnung weiter reduziert. Zu den Schlagzeilenpreisen wirkt K3 hochwertig; zu realistischen Aufgabenpreisen unterbietet es die Frontier-Konkurrenz.

3. Die architektonischen Innovationen sind Trainingszeit, nicht nachträglich

K3 bringt drei neue Komponenten mit, die dem Modell vom Training an eingebrannt sind:

  • Kimi Delta Attention (KDA) — ein hybrider linearer Attention-Mechanismus, der das Kontextfenster von 1 Mio. Tokens effizient handhabt, ohne die quadratischen Kosten der Standard-Attention bei langer Reichweite.
  • Attention Residuals (AttnRes) — statt einer gleichmäßigen Akkumulation über die Tiefe hinweg ruft AttnRes selektiv Repräsentationen aus früheren Schichten ab und lässt das Modell während eines langen agentischen Laufs auf sein eigenes früheres Denken "zurückblicken".
  • Per-Head Muon und Sigmoid Tanh Unit (SiTU) — Optimierer- und Aktivierungsverbesserungen, die zu dem beigetragen haben, was Moonshot als eine 2,5-fache Verbesserung der gesamten Skalierungseffizienz gegenüber K2 bezeichnet.

Die MXFP4-Gewichtsquantisierung (mit MXFP8-Aktivierungen) ist ebenfalls trainingsbewusst und nicht nachträglich angewendet. Das ist wichtig für die Qualität: Post-hoc-Quantisierung kostet typischerweise Benchmark-Punkte; quantisierungsbewusstes Training eliminiert diese Steuer weitgehend.

Wo K3 in der Benchmark-Landschaft steht

K3 belegte insgesamt Platz 4 im Artificial Analysis Intelligence Index (Stand Juli 2026):

RangModellPunktzahl
1Claude Fable 5~60
2GPT-5.6 Sol~59
3(geschlossener Gleichstandsbereich)
4Kimi K3~57
5Claude Opus 4.8~56

Wo K3 alle Modelle anführt (offene und geschlossene): Frontend Code Arena (Platz 1 mit 1.679 Punkten), eine reale Bewertung der UI-Komponenten-Generierung und des iterativen visuellen Codings. Das Kontextfenster von 1 Mio. Tokens und die native Vision-Fähigkeit des Modells tragen hier bei.

Wo Vorsicht geboten ist: K3s Halluzinationsrate liegt in unabhängigen Bewertungen bei etwa 51 % — höher als bei geschlossenen Frontier-Modellen. Die Benchmark-Genauigkeit sprang von K2.6s 33 % auf K3s 46 %, aber die faktische Verankerung verbesserte sich nicht im gleichen Tempo. Überprüfe K3-Ausgaben auf sachliche Behauptungen; es ist am stärksten bei Code und strukturiertem Aufgabenabschluss, weniger zuverlässig bei offenen Wissensfragen ohne Retrieval.

DeepSWE (langfristige Softwareentwicklung): K3 erzielte 67,3, den höchsten veröffentlichten Wert für ein Open-Weight-Modell zum Zeitpunkt der Niederschrift, und erreichte damit Frontier-Territorium.

BrowseComp (Langzeit-Kontext-Navigation, kein Kontextmanagement): 90,4 mit aktiviertem 1-Mio.-Token-Fenster — bemerkenswerterweise ohne Chunking- oder Retrieval-Strategie erreicht, die die meisten Modelle in dieser Größenordnung benötigen.

Wofür K3 konzipiert ist

Moonshots Training von K3 setzte auf langfristige Aufgaben mit minimaler Aufsicht — die Art, bei der ein Modell planen, Tools aufrufen, debuggen, iterieren und über ein großes Repo oder einen mehrstündigen Workflow hinweg kohärent bleiben muss. Spezifische Fähigkeiten, die der offizielle Blog demonstriert:

  • GPU-Kernel-Optimierung (CUDA/Triton-Level-Arbeit, nicht nur Python-Wrapper)
  • GPU-Compiler-Entwicklung (baute einen MiniTriton-Compiler von Grund auf als Benchmark-Aufgabe)
  • Chip-Design und RTL-Verifizierung (Hardware-Engineering)
  • Multi-Agenten-Subagenten-Orchestrierung — K3 kann mehr als 20 gleichzeitige Subagenten in seiner eigenen Kimi Work-Umgebung koordinieren
  • Interaktive Forschungsvisualisierungen und Dashboard-Generierung (wo das Vision-first-Design und der Platz 1 in der Frontend Code Arena Sinn ergeben)

Der "Denkmodus" ist beim Start immer aktiviert (maximaler Aufwand). Die API unterstützt noch keine anpassbaren Aufwandsstufen — beim Start verwendet jeder Aufruf maximales Denken, was Tokens hinzufügt. Zusätzliche Reasoning-Effort-Stufen sind auf der Roadmap, aber noch nicht verfügbar.

Erste Schritte mit der Kimi K3 API

K3 verwendet eine OpenAI-kompatible API-Form. Wenn deine Codebasis also bereits GPT oder Claude über einen OpenAI-Client-Shim aufruft, ist es eine kleine Änderung, ihn auf Kimi umzustellen:

Guided walkthrough1 of 3
  1. Melde dich bei platform.kimi.ai an und erstelle einen API-Schlüssel. K3 ist unter der Modell-ID `kimi-k3` verfügbar.

Kimi K3 über OpenAI SDK (Python)

import openai

client = openai.OpenAI(
  api_key="YOUR_MOONSHOT_KEY",
  base_url="https://api.moonshot.cn/v1",
)

response = client.chat.completions.create(
  model="kimi-k3",
  messages=[{"role": "user", "content": "Refactor this 5,000-line Python codebase..."}],
)
print(response.choices[0].message.content)

Über OpenRouter (ein einzelner API-Schlüssel, mit dem du K3 einfach gegen Claude oder GPT A/B-testen kannst):

Kimi K3 über OpenRouter

import openai

client = openai.OpenAI(
  api_key="YOUR_OPENROUTER_KEY",
  base_url="https://openrouter.ai/api/v1",
)

response = client.chat.completions.create(
  model="moonshotai/kimi-k3",
  messages=[{"role": "user", "content": "Review this TypeScript and suggest optimizations."}],
)
print(response.choices[0].message.content)

Offene Gewichte (Selbst-Hosting, ab dem 27. Juli 2026): Die Gewichte werden auf Hugging Face unter der Organisationsseite von Moonshot AI veröffentlicht. Das Modell wird nativ in MXFP4-Quantisierung ausgeliefert; breite Hardwarekompatibilität war ein explizites Designziel. Vollständige Hardwareanforderungen werden bei der Veröffentlichung bestätigt.

K2 vs. K3: Welches wählen

Möglicherweise hast du bereits K2-Tooling von der Seite Kimi K2 für Claude-Nutzer. So entscheidest du:

Kimi K2 (1T Param)Kimi K3 (2,8T Param)
Gesamtparameter1 Billion2,8 Billionen
Aktive Parameter / Token~32B~16/896 Experten
Native VisionNeinJa
Kontextfenster128K1M
Offene Gewichte verfügbarJetzt27. Juli 2026
Benchmark-Rang~7. (Artificial Analysis)4.
Output-KostenNiedriger15 $/M (durch Cache ausgeglichen)
Am besten fürKostenbewussten agentischen Tool-Einsatz, Selbst-Hosting jetztLangfristiges visuelles Coding, große Repos, multimodale Aufgaben

Greif zu K3, wenn: du Frontier-Qualität (Top-5-Modelle) brauchst, die Aufgabe lang ist und wahrscheinlich wiederholt den Prompt-Cache trifft, oder Vision erforderlich ist. Besonders nützlich, wenn du offene Gewichte für Compliance/Datenschutz möchtest, aber bis zum 27. Juli warten kannst.

Bleib bei K2, wenn: du jetzt sofort selbst hosten musst, die Kosten die primäre Einschränkung sind und die Aufgabe nicht von K3s zusätzlicher Tiefe profitiert, oder du K2 bereits mit funktionierendem Tooling in Produktion betreibst.

Quiz

Check yourself

0/4
  1. Kimi K3 hat 2,8 Billionen Parameter. Wie viele Parameter sind pro Token während der Inferenz aktiv?
  2. Zu welchem effektiven Preis pro Million Input-Tokens läuft K3 typischerweise in langen Coding-Sitzungen?
  3. Bei welchem Benchmark belegt Kimi K3 den 1. Platz — vor allen geschlossenen Frontier-Modellen?
  4. Was ist der wichtigste praktische Vorbehalt bei K3 für sachliche Wissensaufgaben?
Drücke Enter oder die Leertaste, um die Karte umzudrehen. Nutze die Pfeiltasten links und rechts, um zwischen den Karten zu wechseln.Begriff angezeigt.
1 / 7

Quellen & weiterführende Lektüre