OteeAI
IntelligenceOnChip · Angewandt&Verstanden
KI-Modelle · 17. Juli 2026

Offene Gewichte, geschlossene Hardware

Thinking Machines Lab, das Start-up von Mira Murati, hat sein erstes Produktionsmodell veröffentlicht: Inkling, 975 Milliarden Parameter, Gewichte frei auf Hugging Face. Der Haken steht im Kleingedruckten — der Betrieb erfordert vier bis sechzehn Rechenzentrums-GPUs. Offene Gewichte bedeuten 2026 nicht automatisch Souveränität, sondern eine Wahl zwischen zwei Abhängigkeiten.

von Otmar Cürten, Founder Markt&Technik

Sinnbild des Themas: die eigentliche Hardware hinter „offenen Gewichten“ — ein Rechenzentrums-Cluster, keine Workstation.
Inkling in Zahlen
975B
Parameter insgesamt — Mixture-of-Experts-Architektur
41B
davon aktiv je verarbeitetem Token
592GB
komprimiertes NVFP4-Checkpoint (BF16: 1,905 Terabyte)
4–16
benötigte NVIDIA H200- oder B300-GPUs im Cluster
Quelle: Thinking Machines Lab, Inkling-Ankündigung und Tinker-Preisdokumentation, San Francisco/USA, 15. Juli 2026.

01Was ist passiert

Mira Muratis Start-up Thinking Machines Lab hat am 15. Juli sein erstes Produktionsmodell veröffentlicht. Inkling ist ein Mixture-of-Experts-Modell mit 975 Milliarden Parametern, von denen je Token 41 Milliarden aktiv sind; es verarbeitet Text, Bild und Audio, die Gewichte liegen frei auf Hugging Face. Im Artificial Analysis Intelligence Index erreicht es 41 Punkte und führt damit unter den offenen US-Modellen vor Nvidias Nemotron 3 Ultra (38). Thinking Machines schreibt selbst, Inkling sei nicht das stärkste verfügbare Modell, sondern eine Basis zum Anpassen. Der Haken steht im Kleingedruckten: Das BF16-Checkpoint belegt 1,905 Terabyte, die komprimierte NVFP4-Fassung immer noch 592 Gigabyte. Der Hersteller nennt mindestens 600 Gigabyte VRAM auf Clustern aus vier bis sechzehn NVIDIA H200 oder B300.

02Was es bedeutet

Für den Mittelstand heißt „offene Gewichte“ 2026 nicht Souveränität, sondern eine Wahl zwischen zwei Abhängigkeiten. Weg eins: ein eigener GPU-Cluster — eine Investition, die kein Elektronikunternehmen für einen Versuch tätigt. Weg zwei: Anpassung über Tinker, die hauseigene Plattform von Thinking Machines. Tinker ist eine gehostete US-Cloud-API. Wer Inkling darüber feintunt, schickt genau die Daten hinaus, die er schützen wollte. Der Anbieter sagt zu, Kundendaten nicht für eigene Modelle zu nutzen — eine vertragliche Zusage, keine technische Datenhoheit. Damit ist der Souveränitätsgewinn kleiner, als die Schlagzeile verspricht. Es gibt einen dritten Weg, und er ist der praktikable: ein kleineres offenes Modell, das auf vorhandene Hardware passt. Genau das entscheidet sich an einer Rechnung, nicht an einem Benchmark.

03Nutzen nach Rolle

04Mehr erreichen durch dynamische, digitale Intelligenz der KI

Die interessante Zahl an Inkling ist nicht der Tokenpreis, sondern die Token-Effizienz. Über die regelbare Denktiefe — ein Reasoning-Budget von 0,2 bis 0,99 — braucht Inkling laut Hersteller auf Terminal Bench ein Drittel so viele Token wie Nemotron 3 Ultra für dieselbe Leistung. Pro Token ist Inkling teuer, pro Aufgabe kann es günstiger sein. Genau solche Umkehrungen rechnet keine Bauchentscheidung aus, eine KI in fünfzehn Minuten schon. Wer sie rechnen lässt, trifft Investitionsentscheidungen auf Zahlen statt auf Schlagzeilen.

05Effekt bei Nicht-Anwendung

Die Angst, auf die falsche Plattform zu setzen, bleibt. Der Engpass zwischen Ankündigung und belastbarer Kostenaussage wird nicht gelöst, die Blockade vor der Investitionsentscheidung bleibt bestehen, wenn KI nicht eingesetzt wird.

Ihre KI-Toolbox für diese Nachricht

Wichtiger Praxis-Hinweis: Beide Werkzeuge laufen bewusst nicht in Inkling, sondern in jedem gängigen Modell (ChatGPT, Claude, Microsoft Copilot). Das ist kein Kompromiss, sondern der Kern der Nachricht: Inkling läuft auf Ihrer Hardware nicht. Sie brauchen es auch nicht, um die Entscheidung darüber zu treffen. Beide Prompts erzwingen strukturierte Ausgaben und verlangen, dass das Modell Annahmen kenntlich macht — rechnen Sie das Ergebnis stichprobenartig nach.
Prompt für Einkauf und Geschäftsführung

Quick-Check Prompt: Der KI-Make-or-Buy-Rechner

Ausrechnen, ab welchem Volumen eigene GPU-Zeit günstiger wird als Fine-Tuning über Tinker — mit den echten Preisen vom 17. Juli 2026.

  1. Kopieren Sie den untenstehenden Prompt in ein KI-Modell Ihrer Wahl (z. B. ChatGPT, Claude oder Microsoft Copilot).
  2. Ersetzen Sie [Ihr Volumen] durch Ihre geschätzte Menge an Trainings-Token pro Monat. Faustregel zum Einstieg: Ein DIN-A4-Datenblatt entspricht grob 1.500 bis 3.000 Token.
  3. Ersetzen Sie [Ihr GPU-Stundensatz] durch ein reales Angebot — fragen Sie Ihren Distributor oder einen Cloud-Anbieter nach dem Stundensatz für eine H100 oder A100.
  4. Die Tinker-Preise sind im Prompt bereits hinterlegt, damit Sie sofort rechnen können.
Kopierfertig 
Agiere als kaufmännischer Controller mit KI-Erfahrung in einem Elektronikunternehmen. Rechne mir eine Make-or-Buy-Entscheidung durch. Zeige jeden Rechenschritt einzeln, damit ich ihn nachprüfen kann.

Feste Preise (Stand 17. Juli 2026, Tinker-Plattform von Thinking Machines, je 1 Million Token, in US-Dollar):
– Inkling, 64K Kontext: Prefill 1,87 / gecacht 0,374 / Sampling 4,68 / Training 5,61
– Inkling, 256K Kontext: Prefill 3,74 / gecacht 0,748 / Sampling 9,36 / Training 11,23
– Zum Vergleich, kleineres Modell Qwen3.6-35B-A3B: Prefill 0,54 / Sampling 1,335 / Training 1,177
– Speicher: 0,10 US-Dollar je Gigabyte und Monat
– Hinweis: Der Inkling-Preis enthält einen befristeten Rabatt von 50 Prozent.

Unsere Eckdaten:
– Trainings-Token pro Monat: [Ihr Volumen]
– Stundensatz für eine gemietete GPU: [Ihr GPU-Stundensatz]
– Annahme für Eigenbetrieb: rund 14 Millionen Token pro Stunde und GPU. Kennzeichne diese Annahme im Ergebnis ausdrücklich als grob und nenne, was sie kippen würde.

Beantworte in genau dieser Reihenfolge, kurz und in Bulletpoints:
a. Was kostet unser Monatsvolumen auf Tinker mit Inkling – einmal zum Rabattpreis, einmal zum doppelten Preis nach Rabattende?
b. Was kostet dasselbe Volumen mit dem kleineren Modell Qwen3.6-35B-A3B?
c. Was kostet es bei Eigenbetrieb auf gemieteter GPU?
d. Ab welchem Monatsvolumen kippt die Entscheidung zugunsten des Eigenbetriebs?
e. Welche Kostenpositionen fehlen in dieser Rechnung, die in der Praxis anfallen (z. B. Personal, Einrichtung, Ausfallzeiten)? Nenne drei und schätze ihre Größenordnung.
Nutzen: Eine nachprüfbare Zahl statt eines Bauchgefühls — und die Erkenntnis, wo der Kipppunkt für Ihr Haus wirklich liegt. Der Soforttest: Prompt kopieren, zwei Zahlen eintragen, rechnen lassen — Ergebnis in 15 Minuten: drei durchgerechnete Szenarien, ein benannter Kipppunkt und eine ehrliche Liste dessen, was die Rechnung noch nicht enthält.
KI-Agent für Entwickler

Der Modell-Sizing-Berater

Einen eigenen kleinen „Agenten“ – Custom GPT oder systemgesteuerten Chat – aufsetzen, der prüft, welches offene Modell auf die real vorhandene Hardware passt, bevor irgendetwas beschafft wird.

  1. Wenn Sie ChatGPT Plus/Team nutzen, klicken Sie auf „GPTs entdecken“ und dann auf „Erstellen“ (Create). Wenn Sie die Standard-Version nutzen, starten Sie einfach einen neuen Chat.
  2. Hinterlegen Sie im Feld „Instructions“ (bzw. als erste Nachricht im Standard-Chat) die untenstehende Anweisung. Schreiben Sie sie in den normalen Chat, verliert das Modell nach wenigen Zeilen seine Formatierungsvorgaben.
  3. Tippen Sie anschließend Ihre Hardware und Ihren Anwendungsfall ein, zum Beispiel: „Wir haben eine Workstation mit einer RTX 6000 Ada, 48 GB VRAM. Wir wollen Datenblätter zusammenfassen. Was passt?“
Kopierfertig 
Du bist ein spezialisierter KI-Agent für Modell-Sizing in der Elektronikindustrie. Deine Aufgabe ist es, zu prüfen, ob ein offenes Sprachmodell auf einer genannten Hardware lauffähig ist. Du bist bewusst konservativ: Lieber sagst du „passt nicht“, als einen Fehlkauf zu verursachen.

Halte dich bei jeder Analyse streng an diese Struktur:
a. Rechenweg offenlegen: Nenne die Formel, mit der du den VRAM-Bedarf schätzt (aktive Parameter × Bytes je Parameter je nach Quantisierung, zuzüglich KV-Cache für die Kontextlänge, zuzüglich Overhead). Zeige die Zwischenwerte.
b. Ampel: Bewerte mit „passt“, „knapp“ oder „passt nicht“ – und zwar für die genannte Hardware, nicht für eine idealisierte.
c. Alternativen: Nenne zwei kleinere offene Modelle, die auf die genannte Hardware passen, und was der Leser dafür an Qualität aufgibt.
d. Grenzen benennen: Wenn ein Modell wie Inkling mehrere hundert Gigabyte VRAM benötigt, sage klar, dass dafür ein GPU-Cluster im Rechenzentrum nötig ist und eine Workstation nicht ausreicht.
e. Keine erfundenen Zahlen: Nenne keine Parameterzahlen, Benchmark-Werte oder Modellgrößen aus dem Gedächtnis, wenn du sie nicht sicher weißt. Sage in diesem Fall, welche Angabe der Leser auf der Hugging-Face-Modellkarte nachschlagen muss.
f. Antworte immer in technischem, professionellem Deutsch für Entwickler.
Nutzen: Der Agent lässt sich immer wieder mit neuen Modellankündigungen befragen und liefert wiederholbar dieselbe Prüfstruktur — die Sortierung, die vor jeder Beschaffung stehen sollte. Der Soforttest: Anweisung hinterlegen und zuerst nach Inkling auf der eigenen Workstation fragen — die Antwort führt die Kernaussage dieses Beitrags vor: ein offengelegter Rechenweg, eine klare Ampel, zwei realistische Alternativen und eine benannte Liste dessen, was Sie selbst nachschlagen müssen.

Quellen: Thinking Machines Lab, „Inkling: Our open-weights model“, 15.7.2026 · Thinking Machines Lab, Tinker-Dokumentation „Models & Pricing“, Stand 17.7.2026 · Hugging Face, Modellkarte thinkingmachines/Inkling · Artificial Analysis, Intelligence Index · Reuters, 15.7.2026 · TechCrunch, 15.7.2026 · The Decoder, 16.7.2026.

Ihr Otee