Zum Hauptinhalt springen

Inkling: Das Open-Weights-Modell von Thinking Machines

Fortgeschritten

Am 15. Juli 2026 veröffentlichte Thinking Machines Lab — das Labor von Mira Murati — Inkling, sein erstes eigenes Modell, als Open Weights unter Apache 2.0. Über Nacht landete es auf der Startseite von Hacker News, und die Berichterstattung verfiel in zwei bequeme Muster: „Offenes Modell mit einer Billion Parametern!" und eine Benchmark-Tabelle, in der es verliert.

Beides verfehlt den Kern. Inkling ist eine ungewöhnliche Veröffentlichung, die absichtlich nicht versucht, die Bestenliste anzuführen, und ihr interessantestes Merkmal — ein stufenloser Thinking-Effort-Regler, der in die Gewichte hineintrainiert wurde — wurde in der ersten Berichterstattungswelle durchweg falsch beschrieben. Diese Seite ist die praxisnahe Einordnung.

What you'll learn
  • Verstehen, was Inkling wirklich ist: ein sparse MoE mit 975 Mrd. Parametern, davon 41 Mrd. aktiv, Apache 2.0, 1M Kontext, nativ multimodal über Text/Bild/Audio/Video
  • Lernen, was der Thinking-Effort-Regler tatsächlich ist — ein stufenloser Float, per RL trainiert, nicht das diskrete low/medium/high-Enum, das die API-Wrapper zeigen
  • Sehen, warum „Open Weights" nicht „läuft auf deinem Rechner" bedeutet — die reale VRAM-Untergrenze liegt selbst quantisiert bei ~600 GB
  • Wissen, warum Inkling Benchmarks mit Absicht verliert, und welche eine Metrik es gewinnt, die niemand in eine Schlagzeile gepackt hat

Die Ein-Satz-Fassung​

Inkling ist ein Mixture-of-Experts-Transformer mit 975 Mrd. Gesamtparametern und 41 Mrd. aktiven Parametern pro Token, vortrainiert auf 45 Billionen Tokens aus Text, Bildern, Audio und Video, mit einem Kontextfenster von 1 Mio. Tokens, veröffentlicht unter Apache 2.0 — positioniert nicht als das beste verfügbare Modell, sondern als die beste Basis zum Anpassen.

Dieser letzte Halbsatz ist die ganze Strategie. Thinking Machines sagt es unumwunden: Inkling „ist nicht das insgesamt stärkste heute verfügbare Modell, ob offen oder geschlossen." Ein Modell zusammen mit diesem Satz auszuliefern ist keine Bescheidenheit, sondern Positionierung — und erklärt jede der unten stehenden Designentscheidungen.

Vier Dinge, die überraschen​

1. Der Effort-Regler ist ein Float, und die Presse hat seinen Bereich falsch angegeben​

Das ist das Hauptmerkmal und zugleich das am häufigsten falsch berichtete Detail des Launches. Mehrere Medien beschrieben den Effort-Parameter als Bereich von „0,2 bis 0,99" oder als benanntes Enum — none | minimal | low | medium | high | xhigh.

Die offizielle Tinker-Dokumentation sagt etwas anderes. Effort ist stufenlose Reasoning-Effort-Konditionierung: jeder Float von 0.0 einschließlich bis, aber ohne, 1.0. Der Standardwert ist 0.9. Die benannten Stufen sind lediglich empfohlene Sweep-Werte, nicht die eigentliche Schnittstelle:

PresetWert
none0.0
minimal0.1
low0.2
medium0.7
high0.9
xhigh0.99

Die berichtete Untergrenze 0.2 ist schlicht das low-Preset — keine Grenze. Nichts hindert dich daran, 0.45 zu übergeben. Beachte auch, wie nichtlinear die Presets sind: der Abstand von low zu medium beträgt 0.5, der von high zu xhigh nur 0.09. Die nutzbare Auflösung drängt sich am oberen Ende des Bereichs.

Das ist relevant, weil die meisten Inkling über einen OpenAI-kompatiblen Wrapper kennenlernen werden, der reasoning_effort="high" anbietet. Dieses Enum ist ein verlustbehafteter Adapter über einem stufenlosen Regler. Wer Kosten gegen Qualität abstimmt, dem verbirgt das Enum den größten Teil der Skala.

Effort direkt über den Tinker-Renderer setzen

renderer = TmlV0Renderer(get_tokenizer("thinkingmachines/Inkling"))
messages = [Message(role="user", content="Solve this problem step by step.")]
prompt = renderer.build_generation_prompt(messages, effort=0.9)

Dasselbe effort-Argument greift auch beim Fine-Tuning, und genau hier lohnt das Innehalten — du kannst auf einer gewählten Effort-Stufe trainieren:

Fine-Tuning auf einer festen Effort-Stufe

model_input, weights = renderer.build_supervised_example(
  messages_with_assistant_response,
  effort=0.9,
)

2. Effort ist kein Prompt-Trick — er wurde mit einer Token-Steuer antrainiert​

Der Regler ist deshalb stufenlos, weil er nicht zur Inferenzzeit aufgesetzt wurde. Während des Reinforcement Learning setzte das Team den Effort, indem es die System-Message änderte und die Kosten pro Token anpasste — das Modell wurde also buchstäblich fürs Nachdenken besteuert. Das Modell lernte, unterschiedliche Token-Budgets auf unterschiedliche Rollouts zu verwenden, und der Regler ist der Rückstand dieses Trainings.

Das ist ein grundlegend anderer Mechanismus als „bitte denk Schritt für Schritt, aber knapp", und deshalb ist der Nutzen real: Thinking Machines berichtet, dass Inkling Nemotron 3 Ultra auf Terminal Bench 2.1 erreicht und dabei rund ein Drittel so viele Reasoning-Tokens verbraucht.

Es erklärt auch die Einschränkung, die die Doku sorgfältig formuliert und die du ernst nehmen solltest: „Größere Werte fördern generell mehr Reasoning, garantieren aber weder längere Antworten noch höhere Genauigkeit bei jedem Sample." Effort ist eine gelernte Tendenz, keine Garantie. Ihn auf 0.99 zu drehen und monotone Verbesserung zu erwarten, verkennt, was er ist. Und höherer Effort „kann ein größeres Generierungsbudget erfordern, um Abschneiden zu vermeiden" — dreh den Effort hoch, ohne die maximale Tokenzahl zu erhöhen, und du schneidest das Modell mitten im Gedanken ab.

3. Open Weights, aber ausführen kannst du es fast sicher nicht​

„975 Mrd. Parameter, Apache 2.0, Gewichte auf Hugging Face" lädt zu einer Annahme ein, die die Hardware-Tabelle zertrümmert:

ZahlenformatAggregierte VRAM-UntergrenzeBeispielkonfiguration
BF16mindestens 2 TB8× NVIDIA B300 oder 16× NVIDIA H200
NVFP4 (W4A4)mindestens 600 GB4× NVIDIA B300
NVFP4 (W4A16)mindestens 600 GB8× NVIDIA H200

Selbst vollständig auf 4 Bit quantisiert liegt die Untergrenze bei rund 600 GB aggregiertem VRAM. Das ist ein Modell für Multi-GPU-Cluster, kein Workstation-Modell und schon gar kein Laptop-Modell. Die 41 Mrd. aktiven Parameter machen es günstig, ein Token durchzuschieben; sie ändern nichts daran, was du im Speicher halten musst. Alle 975 Mrd. Parameter müssen resident sein, denn der Router kann bei jedem Token nach jedem von ihnen greifen.

Wenn dein Interesse an Open Weights „lokal ausführen" lautet, ist Inkling das falsche Modell und Modelle lokal mit Ollama ausführen die richtige Seite. Wenn dein Interesse die rechtliche Freiheit zum Ändern und Kommerzialisieren ist — Apache 2.0, wirklich permissiv —, dann erfüllt Inkling das, und du mietest die GPUs bei TogetherAI, Fireworks, Modal, Databricks oder Baseten. Das sind zwei verschiedene Gründe, Open Weights zu wollen, und diese Veröffentlichung bedient nur den zweiten.

4. Es verliert Benchmarks mit Absicht — und gewinnt den einen, über den niemand berichtet hat​

Die Benchmark-Tabelle ist wenig schmeichelhaft, und Thinking Machines hat sie trotzdem veröffentlicht:

BenchmarkInklingEin stärkerer Wettbewerber
Terminal Bench 2.163,8 %GLM 5.2: 82,7 %
SWEBench Verified77,6 %Kimi K2.6: 80,2 %
SimpleQA Verified43,9 %DeepSeek V4 Pro: 57,0 %
FORTRESS Adversarial78,0 %Nemotron 3 Ultra: 77,6 %

Drei Niederlagen, ein knapper Sieg. Das interessante Ergebnis steht aber gar nicht in dieser Tabelle — es ist die Kalibrierung. Das Team trainierte mit Reinforcement Learning auf Basis echter Bewertungsregeln (proper scoring rules), die ein Modell dafür belohnen, „ich bin zu 70 % sicher" zu sagen und in 70 % der Fälle richtig zu liegen, statt dafür, souverän zu klingen. Das Modell wurde dafür belohnt, die eigene Unsicherheit gut einzuschätzen, statt selbstbewusst falsche Antworten zu produzieren, und das zeigt sich in Forecasting-Evaluationen wie ForecastBench und Prophet Arena.

Überall dort, wo eine falsche, aber selbstsichere Antwort mehr kostet als eine vorsichtige — Triage, Recherche, Routing, Extraktion mit menschlicher Prüfung dahinter —, sind gut kalibrierte 44 % mehr wert als überhebliche 57 %. Diese Eigenschaft passt in keine Spalte einer Bestenliste, was ungefähr erklärt, warum niemand damit aufmachte.

Die Architektur, kurz gefasst​

Die Bausteine, die man kennen sollte, jenseits der Parameterzahl:

Guided walkthrough1 of 5
  1. Ein Decoder-only-Transformer mit 66 Schichten. Jede Schicht enthält 256 geroutete Experten plus 2 gemeinsame Experten, wobei 6 geroutete Experten pro Token aktiv sind. Die gemeinsamen Experten feuern immer — sie tragen die allgemeine Fähigkeit —, während der Router pro Token die Spezialisten auswählt.

Wofür es taugt, ehrlich gesagt​

Greif zu Inkling, wenn:

  • Du ein leistungsfähiges multimodales Modell besitzen und verändern musst. Apache 2.0 plus echte Multimodalität plus erstklassige Fine-Tuning-Unterstützung in Tinker ist eine seltene Kombination. Das ist der vorgesehene Einsatz.
  • Kosten pro Aufgabe wichtiger sind als der Spitzenwert. Der Effort-Regler bei einem Drittel der Reasoning-Tokens ist ein echter Hebel, und du kannst ihn stufenlos statt in drei Stufen justieren.
  • Kalibrierung zählt. Wenn deine Pipeline mit „das Modell ist unsicher" etwas anfangen kann, ist das hier ungewöhnlich gut geeignet.

Greif nicht dazu, wenn du den stärksten Coding-Agenten willst (laut Tabelle schlagen GLM 5.2 und Kimi K2.6 es), wenn du auf eigener Hardware selbst hosten willst (siehe die VRAM-Untergrenze) oder wenn du maximales Faktenwissen willst (SimpleQA mit 43,9 % ist nicht konkurrenzfähig).

Ein Sicherheitshinweis, den die Model Card direkt benennt: Inkling hat eine verbliebene „gelegentliche Neigung, Rollenspiel-Prompts und indirekt formulierten Prompts zu schädlichen Themen nachzukommen", und die Card empfiehlt ausdrücklich, externe Moderation davorzulegen — sie nennt Llama Guard — statt sich auf eingebaute Ablehnungen zu verlassen. VentureBeat rahmte die Haltung des Modells als „Widerstand gegen Zensur"; nimm stattdessen die Formulierung der Model Card selbst als maßgebliche Leitlinie und plane eine Moderationsschicht ein, wenn du das Modell einsetzt. Die Card listet außerdem die üblichen Restrisiken: Halluzination, unvollkommenes Befolgen von Anweisungen und nachlassende Leistung in langen mehrstufigen Dialogen.

Check yourself

0/4
  1. Was ist der tatsächlich gültige Bereich von Inklings Thinking-Effort-Parameter?
  2. Inkling hat 41 Mrd. aktive Parameter von 975 Mrd. insgesamt. Was bedeutet das für den Speicher?
  3. Warum hat Thinking Machines Inkling im RL mit echten Bewertungsregeln (proper scoring rules) trainiert?
  4. effort=0.99 statt 0.9 zu setzen garantiert was?

Wo es neben dem steht, was du kennst​

Wenn du Kimi K2 für Claude-Nutzer bereits gelesen hast, kommt dir die Form bekannt vor — ein sparse MoE mit etwa einer Billion Parametern und permissiver Lizenz —, doch die Absicht unterscheidet sich. Kimi K2 optimiert für lange agentische Tool-Ketten. Inkling optimiert dafür, umgeformt zu werden: multimodale Eingabe, ein justierbares Effort-Budget und Fine-Tuning als erstklassiger Weg.

Für das größere Bild siehe ein Modell auswählen, offene Modelle von DeepSeek und Qwen für den Rest des Open-Weights-Felds und was KI bei verschiedenen Anbietern kostet für die Ökonomie, auf die der Effort-Regler zielt.

Quellen & weiterführende Lektüre​