Saturday, Nov 21 | --:--
Zur Startseite

Thinking Machines öffnet Inkling 2 Mini: Loop-Modell mit 26 Mrd. Parametern für Laptops

Aktualisiert am 21. Nov.: Thinking Machines Lab hat Inkling 2 Mini am 20. November mit offenen Gewichten auf Hugging Face unter Apache 2.0 sowie auf Tinker veröffentlicht, ohne die Phase mit geschlossenen Gewichten, die es bei Inkling 2 Small gab. Das multimodale Mixture-of-Experts-Modell hat insgesamt 26,4 Milliarden und 3,4 Milliarden aktive Parameter, durchläuft seine mittleren 12 Schichten dreimal pro Token und wird als Checkpoint von rund 20 GB ausgeliefert, der laut dem Labor auf einem DGX Spark oder einem Mac mit Apple Silicon und mindestens 32 GB läuft. Die Benchmark-Ergebnisse stammen vom Labor selbst. Zuvor: Die Gewichte von Inkling 2 Small folgten eine Woche nach dem Start auf Tinker.

7 Min. Lesezeit San Francisco Als Markdown anzeigen
Linolschnitt-Collage mit einem ochsenblutroten Tintenfass, in dem zwei verzweigte Federkiele stecken, auf klaren Formen aus Papier, mit einem eingeklebten Ausschnitt des Schriftzugs von Thinking Machines Lab.

Aktualisiert am 21. November 2026: Thinking Machines hat mit Inkling 2 Mini ein zweites, deutlich kleineres Inkling-2-Modell veröffentlicht, mit offenen Gewichten vom ersten Tag an. Der folgende Abschnitt behandelt die Veröffentlichung; die früheren Berichte folgen unverändert.

21. November: Inkling 2 Mini ohne Wartezeit#

Die Sicherheitsschranke, die die Gewichte von Inkling 2 Small eine Woche lang zurückgehalten hatte, galt diesmal nicht. Thinking Machines Lab veröffentlichte Inkling 2 Mini am 20. November mit Gewichten auf Hugging Face unter Apache 2.0 und noch am selben Tag mit Zugang über Tinker, wie aus Model Card und Ankündigung hervorgeht.

Das Modell ist anders aufgebaut. Inkling 2 Mini ist ein multimodales Mixture-of-Experts-Modell mit insgesamt 26,4 Milliarden und 3,4 Milliarden aktiven Parametern; seine mittleren 12 Schichten laufen mit gemeinsam genutzten Gewichten dreimal pro Token, was laut dem Labor etwa 5,4 Milliarden effektiv aktiven Parametern entspricht. Es verarbeitet Text und Bilder, gibt Text aus und unterstützt ein Kontextfenster von bis zu 1 Mio. Token. Der Checkpoint ist in gemischtem NVFP4 und MXFP8 rund 20 GB groß, und die Model Card nennt als unterstützte Hardware einen Nvidia DGX Spark oder Rechner mit Apple Silicon und mindestens 32 GB Arbeitsspeicher.

Das Labor erklärt, das Modell liege bei Benchmarks wie DeepSWE v1.1 mit 48,2 Prozent und Vals Index v2.2 mit 46,5 Prozent vor allen Open-Weight-Modellen mit weniger als 100 Milliarden Parametern insgesamt. Die eigene Tabelle sieht Inkling 2 Mini im Artificial Analysis Intelligence Index mit jeweils 20,1 gleichauf mit Qwen3.8-27B und weist es bei einigen anderen Tests hinter Qwen3.8-27B aus. vLLM, das vom ersten Tag an Unterstützung bot, beschreibt dieselbe Schleifenarchitektur.

Laut Model Card stufte Thinking Machines Inkling 2 Mini in seinen Evaluierungen zum Kontrollverlust als „wesentlich unterhalb der Frontier-Fähigkeiten“ ein und kam zu dem Schluss, dass es keinen wesentlichen Zugewinn an Fähigkeiten über das hinaus bietet, was Open-Weight-Modelle bereits leisten. Weil die Schleifen dem Modell erlauben, mehr zu rechnen, ohne seine Überlegungen auszuschreiben, testete das Labor auch die Überwachbarkeit und erklärt, das Modell habe sehr wenig Kontrolle über seine Gedankenkette. Die Model Card warnt, das Modell sei weniger leistungsfähig als Inkling 2 Small, vor allem beim Abrufen von Faktenwissen, und könne als Agent Dateien ohne Rückfrage löschen oder überschreiben.

Einschränkungen der Aktualisierung vom 21. November#

  • Wir haben die Gewichte nicht selbst ausgeführt; alle Benchmark- und Sicherheitsergebnisse hier stammen von Thinking Machines oder werden von dem Labor zitiert, und die Ranglisten von Artificial Analysis und Vals haben wir nicht direkt geprüft.
  • Der Beitrag von vLLM nennt 3,5 Milliarden aktive Parameter; die Model Card nennt 3,4 Milliarden, die wir verwenden.
  • Die Vergleiche beruhen für verschiedene Modelle auf unterschiedlichen Evaluierungsaufbauten, wie das Labor anmerkt.

Aktualisiert am 13. November 2026: Thinking Machines hat die Gewichte von Inkling 2 Small unter Apache 2.0 veröffentlicht. Der folgende Abschnitt behandelt die Veröffentlichung; der ursprüngliche Bericht folgt unverändert.

13. November: Die Gewichte sind verfügbar#

Thinking Machines Lab hat seinen Zeitplan eingehalten. Am 12. November ergänzte das Labor seine Ankündigung um den Hinweis, die Gewichte von Inkling 2 Small seien „jetzt auf HuggingFace zum Download verfügbar“, eine Woche nachdem es das Modell mit geschlossenen Gewichten bis zum Abschluss externer Sicherheitstests auf Tinker bereitgestellt hatte. Hugging Face führt das Repository unter einer Apache-2.0-Lizenz, der Lizenz, die das Labor versprochen hatte.

Es gibt zwei Checkpoints. Der wichtigste liegt in NVFP4 vor, der Genauigkeit, in der das Modell laut Model Card vortrainiert, zwischentrainiert und nachtrainiert wurde, und benötigt einen GPU-Cluster mit mindestens 500 GB zusammengefasstem Speicher, etwa zwei Nvidia B300 oder vier H200. Eine MXFP8-Version benötigt mindestens 800 GB; laut dem Labor schneidet sie bei seinen Evaluierungen nur ein bis zwei Prozentpunkte besser ab, und es empfiehlt NVFP4 für alle Einsatzzwecke. Das Modell läuft lokal mit SGLang, vLLM, TokenSpeed und Unsloth und wird über Inferenzanbieter wie Nvidia, Fireworks, Together, Baseten, Nebius, Modal und Cloudflare angeboten, so das Labor.

Laut Model Card hat das Labor chemische, biologische, radiologische, nukleare und Cyberrisiken mit internen Evaluierungen, externen Tests und Varianten mit unterdrückten Verweigerungen bewertet und das Modell in seinen Evaluierungen zum Kontrollverlust als „wesentlich unterhalb der Frontier-Fähigkeiten“ eingestuft. Das sind die eigenen Schlussfolgerungen des Labors.

Einschränkungen der Aktualisierung vom 13. November#

  • Wir haben die Gewichte nicht ausgeführt und keinen Benchmark nachvollzogen; die Ergebnisse zu Fähigkeiten und Sicherheit bleiben die von Thinking Machines.
  • Die von uns gelesene Model Card nannte weder die externen Tester noch veröffentlichte sie deren Ergebnisse.

Thinking Machines versucht erneut den Weg von einer geschlossenen Fine-Tuning-API zu herunterladbaren Gewichten, diesmal mit einem größeren MoE-Modell und einer ausdrücklichen Sicherheitsschranke dazwischen. Am 5. November stellte das Labor Inkling 2 Small vor, ein multimodales Mixture-of-Experts-Modell mit insgesamt 594 Milliarden und 17 Milliarden aktiven Parametern, Bildeingabe und variablem Rechenaufwand. Das ist ein Sprung gegenüber Inkling-Small, dem offenen MoE-Modell mit 276 Milliarden Parametern, davon 12 Milliarden aktiv, das es im Juli veröffentlicht hatte, und eine andere Architektur als das ursprüngliche Inkling mit 975 Milliarden Parametern, davon 41 Milliarden aktiv.

Das neue Modell ist ab sofort auf Tinker für Inferenz und Fine-Tuning verfügbar, mit geschlossenen Gewichten. Thinking Machines erklärt, die vollständigen Gewichte nächste Woche nach externen Sicherheitstests und Red-Teaming unter einer Apache-2.0-Lizenz bereitstellen zu wollen, und folgt damit nach eigenen Worten einem sicheren Weg zu offenen Gewichten. Mit der Freigabe dieser Gewichte sollen die Checkpoints herunterladbar werden, heißt es in der Ankündigung.

Was das Labor angibt#

Thinking Machines erklärt, Inkling 2 Small übertreffe seine früheren Modelle im Artificial Analysis Intelligence Index „bei Weitem“, und nennt einen Wert von 31. Die eigene Vergleichstabelle weist 30,6 im AA Index v5.0 aus. Die Evaluierungen im Beitrag liefen mit Aufwandsstufe 0,99 („xhigh“) und Temperatur 1,0 sowie mit einer maximalen Trajektorienlänge von 1 Mio. Token, gegenüber der Grenze von 256.000 Token bei Inkling Small. Wir haben diese Evaluierungen nicht wiederholt.

Zum Training erklärt das Labor, die erste Phase des Vortrainings habe 8,4 Billionen Token umfasst und 68 Stunden auf NVIDIA-Racks vom Typ GB300 NVL72 gedauert, nativ in NVFP4. Ein späterer gemeinsamer Lauf mit Reinforcement Learning umfasste 1.075 Schritte und mehr als 17 Millionen Rollouts über neun Tage auf 2.048 GPUs; das Labor stellt dem die getrennten Reinforcement-Learning-Läufe für Reasoning und agentische Aufgaben beim vorherigen Inkling gegenüber. Es beschreibt einen Vision-Encoder mit 292 Millionen Parametern auf Basis von Perception Encoder und erklärt, das Modell unterstütze kein Audio.

Die Sicherheitszahlen im Beitrag stammen vom Labor. Demnach liegen die Werte von Inkling 2 Small für chemisches, biologisches, radiologisches und nukleares Wissen und entsprechende Fähigkeiten unterhalb der Spitze der Open-Weight-Modelle, und eine ausschließlich auf Hilfsbereitschaft ausgelegte Variante habe diese Spitze bei den gemessenen Dimensionen nicht nennenswert verschoben. Evaluierungsmethoden und Einzelheiten zur Unterstützung geben wir nicht wieder.

Einschränkungen#

  • Die Werte aus Intelligenzindizes und Benchmarks sind Zitate von Thinking Machines aus Ranglisten Dritter oder aus eigenen Tabellen; wir haben sie nicht unabhängig nachvollzogen.
  • Die im Text genannte AA-Index-Punktzahl von 31 stimmt nicht mit den 30,6 aus der Tabelle des Labors zum AA Index v5.0 überein.
  • Apache-2.0-Gewichte sind eine für „nächste Woche“ nach Sicherheitstests angekündigte Absicht, keine bereits erfolgte Veröffentlichung.
  • Die CBRN- und Cybervergleiche stammen vom Anbieter; sie sind kein Ergebnis eines unabhängigen Sicherheitsgremiums.
  • Preise, Nutzungslimits und Kapazitätsbedingungen von Tinker werden in der von uns gelesenen Ankündigung nicht genannt.

Quellen#

Frühere Berichte

Bisherige Berichterstattung von Times of AI zu diesem Thema.