Chinas Edge-KI-Boxen: Axera AX8860 gegen Nvidias DGX SparkSo prüfst du, ob die günstige Alternative für deine Fertigung taugt
Axeras neuer 6-nm-Chip bringt 128 GB Speicher und laut Hersteller DGX-Spark-Leistung zu einem deutlich niedrigeren Preis. Ich zeige dir, was dahintersteckt und wo du genau hinsehen musst.
Was Axera gezeigt hat
Der chinesische Chipentwickler Axera hat Mitte Oktober auf der Industriemesse CIIF in Shanghai die AX8860-Serie vorgestellt. Der Chip entsteht in 6 nm und ist für die lokale Inferenz großer Sprach- und Bildmodelle in Fabrik, Lager und Roboter gedacht.
Laut Axera liefert er bis zu 256 TOPS (Billionen Rechenoperationen pro Sekunde) im 4-Bit-Format FP4. Angebunden sind bis zu 128 GB LPDDR5X über einen 256-Bit-Bus mit 273 GB/s. Dazu kommen PCIe 5.0, eine eigene Chip-zu-Chip-Kopplung namens AXLink sowie Videodekoder für 64 und Encoder für 16 Kanäle.
Die Variante AX8860P hat 16 Arm-Kerne vom Typ Cortex-A55, sitzt auf einem 78 × 78 mm großen Modul und nimmt unter Last rund 40 W auf. Axera bietet die Serie als Chip, als Kernmodul A256S, als Inferenzkarte und als Inferenzserver an.
Den größten Wirbel macht ein Partner: Sipeed baut daraus die MaixStation, eine 11 × 11 × 3 cm kleine Box, und stellt sie direkt gegen Nvidias DGX Spark.
Funktionalität und Anwendung: Was die Box für dich leisten kann
Die MaixStation ist kein PC, sondern eine KI-Box. Du schließt sie per USB-C an einen Rechner oder über 10-Gigabit-Ethernet ans lokale Netz an und schickst ihr Anfragen über eine Schnittstelle, die mit der von OpenAI kompatibel ist. Deine Daten verlassen dabei das Werk nicht.
Warum 128 GB wichtig sind: Ein Sprachmodell muss beim Antworten für jedes erzeugte Wort seine kompletten Gewichte einmal aus dem Speicher lesen. Die Speichermenge bestimmt also, welches Modell überhaupt passt, und die Bandbreite, wie schnell es antwortet. Hier liegt die MaixStation exakt auf dem Niveau der DGX Spark – beide nutzen 256-Bit-LPDDR5X mit 273 GB/s.
Was sich daraus ergibt: Laut Sipeed trägt die 32-GB-Version ein Modell mit 27 Milliarden Parametern, die 128-GB-Version eines mit rund 125 Milliarden. Bis zu acht Boxen lassen sich laut Sipeed ohne Switch koppeln, die geplante MaixStation Pro soll 512 GB bieten.
Wo Axera den Chip einsetzt: Auf der Messe zeigte das Unternehmen Oberflächenprüfung an Stahlblech, Steuerung in der Lagerlogistik und Roboter für Pflege und Rehabilitation. Ein chinesischer Robotik-Entwickler ließ dort sein Modell für Steckerprüfung, Einsetzen von Bauteilen und Schneiden mit einer Roboterhand auf der Axera-Plattform laufen.
Laut Sipeed läuft auf der Box Debian 13 mit Linux 6.18, das Board-Support-Paket ist offen. Unterstützt werden vLLM, SGLang und PyTorch, laut Axera auch ONNX und Hugging-Face-Formate.
Der Vergleich in einer Tabelle
MaixStation gegen DGX Spark
| Merkmal | MaixStation | DGX Spark |
|---|---|---|
| Chip | Axera AX8860P, 6 nm | Nvidia GB10 |
| CPU | 16× Cortex-A55 | 10× X925 + 10× A725 |
| KI-Leistung | 256 TOPS FP4 dicht (Herst.) | ~500 TFLOPS FP4 dicht |
| Speicher | 128 GB LPDDR5X | 128 GB LPDDR5X (64 GB ab 23.10.) |
| Bandbreite | 273 GB/s | 273 GB/s |
| Preis | ca. 3.999 $ (erwartet) | 6.950 $ (64 GB: 4.999 $) |
| Verfügbar | Kickstarter Ende 2026 | seit Oktober 2025 |
Angaben zur MaixStation laut Sipeed/Axera, nicht unabhängig geprüft.
Wo du skeptisch bleiben solltest
Die Leistungszahlen sind Herstellerangaben. Sipeed meldete zuerst 25 Prozent schnelleres Einlesen der Eingabe (Prefill) und 30 Prozent schnellere Ausgabe (Decode) als die DGX Spark mit einem 27B-Modell. Auf Nachfrage von Tom's Hardware korrigierte Sipeed auf rund 10 Prozent, gemessen mit FP4 auf beiden Geräten.
Der Prefill-Vorsprung ist rechnerisch schwer zu erklären. Nvidias Wert von 1 PFLOP gilt für dünn besetzte Matrizen (Sparsity), dicht liegt die DGX Spark bei rund 500 TFLOPS – etwa doppelt so viel wie die 256 TOPS des AX8860P. Sipeed hält dagegen, dass reale Modelle Nvidias Spitzenwert kaum ausnutzen.
Selbst die TOPS-Zahl ist nicht eindeutig: Radxa nennt für denselben Chip bis zu 128 TOPS. Die Kopplung von vier Chips zu 1.024 TOPS mit 80 Prozent Effizienz beruht laut Kleingedrucktem auf einer Laborsimulation.
Die CPU ist schwach. Cortex-A55 ist ein kleiner Effizienzkern, der Befehle der Reihe nach abarbeitet. Für die NPU reicht das, für Vor- und Nachverarbeitung oder Agenten-Logik kaum. Die DGX Spark hat zehn große Cortex-X925-Kerne.
Die Software ist unfertig. Die Toolchain Pulsar2 liegt in Version 8.0 vor, eine Liste unterstützter Operatoren fehlt. Laufzeit und Treiber führen den Chip laut Tom's Hardware noch nicht auf, die Kernel-Sprache AXDSL und der Pulsar2-Quellcode sind für Ende Oktober angekündigt.
Die anderen chinesischen Edge-KI-Boxen
Axera ist nicht allein. Cix Technology zeigte ebenfalls auf der CIIF die AGX Station mit dem 6-nm-Arm-SoC P1: bis 45 TOPS, erweiterbar auf 350 TOPS, Pilotprojekte ab dem vierten Quartal. Der P1 steckt bereits in Boards von Lenovo, Radxa und Orange Pi.
Rockchip geht einen anderen Weg und setzt auf Co-Prozessoren: Der RK1820 mit 2,5 GB und der RK1828 mit 5 GB eigenem Speicher sollen Sprachmodelle mit 3 bzw. 7 Milliarden Parametern neben einem vorhandenen Hauptprozessor ausführen, angebunden über PCIe, USB oder Ethernet.
Radxa hat zudem einen Rechner im Taschenformat mit dem AX8860P angekündigt, Details fehlen noch. Das Muster ist klar: Chinesische Hersteller bauen eine eigene Stufenleiter für lokale KI – vom Co-Prozessor für kleine Modelle bis zur 128-GB-Box für große.
Chinas Stufenleiter für lokale KI
| Lösung | Rechenleistung / Speicher | Stand |
|---|---|---|
| Rockchip RK1820/RK1828 | Co-Prozessor, 2,5 / 5 GB, Modelle bis 7B | angekündigt 2025 |
| Cix AGX Station (P1) | 45 TOPS, ausbaubar auf 350 TOPS | Piloten ab Q4 2026 |
| Axera AX8860 / MaixStation | 256 TOPS FP4, 128 GB | Kickstarter Ende 2026 |
Was das für dich bedeutet
Entwickler: Lokale Inferenz großer Modelle wird zur Preisfrage, nicht mehr zur Machbarkeitsfrage – plane deine Architektur so, dass du das Modell-Backend austauschen kannst, und rechne Antwortzeiten aus der Speicherbandbreite, nicht aus den TOPS, denn beim Generieren bremst fast immer der Speicher.
Einkäufer: Behandle die MaixStation als Musterbeschaffung, nicht als Serienquelle – Kickstarter heißt ohne Lieferzusage, Gewährleistung und Langzeitverfügbarkeit; nutze die Preisansage trotzdem, denn sie zeigt, dass 128-GB-Inferenz deutlich unter dem heutigen Nvidia-Preis machbar ist.
Vertrieb und FAE: Rechne damit, dass Kunden nach chinesischen Edge-Boxen fragen – bereite einen ehrlichen Vergleich zu Software-Reife, CPU-Leistung und Support vor.
Geschäftsführer: Halte die Option im Blick, aber kläre vor jedem Einsatz Exportkontrolle, Zulassung und Datenhoheit mit deiner Rechts- und Compliance-Abteilung.
Randbedingungen
- Alle Leistungsangaben stammen von Axera und Sipeed; unabhängige Tests fehlen.
- Preise sind Erwartungswerte; Sipeed hat sie mit aktuellen DRAM-Preisen kalkuliert, die stark schwanken.
- Kickstarter-Kauf: keine Lieferzusage, Gewährleistung und Service unklar, CE-Kennzeichnung für den EU-Einsatz prüfen.
- Herkunft China: Exportkontrollen, Lieferantenbewertung und Kundenvorgaben (z. B. Automotive, Behörden) vor dem Einsatz klären.
- Software: Toolchain im Aufbau, Operatorliste fehlt, Laufzeit und Treiber führen den Chip noch nicht.
🧑💻 Dein Quick-Check zur Nachricht: Claude oder ChatGPT als Speicher- und Tempo-Rechner
Das Ziel: Du findest in fünf Minuten heraus, ob dein KI-Modell auf eine 128-GB-Box wie MaixStation oder DGX Spark passt und wie schnell es dort ungefähr antwortet.
Anwendungsfall: Du willst in der Qualitätsprüfung einen Assistenten einsetzen, der Prüfberichte lokal zusammenfasst, und überlegst, welche Box du dafür als Muster bestellst.
So rechnet die KI: Beim Generieren liest das Modell für jedes Token seine Gewichte einmal aus dem Speicher. Ein 27B-Modell in 4 Bit belegt rund 13,5 GB. 273 GB/s geteilt durch 13,5 GB ergibt höchstens rund 20 Token pro Sekunde; gute Systeme erreichen etwa 70 bis 90 Prozent davon.
Schritt für Schritt:
- Notiere Name, Parameterzahl und Quantisierung deines Modells (z. B. 27B, 4 Bit).
- Schätze die Länge deiner typischen Eingaben und Antworten in Wörtern.
- Kopiere den Prompt in Claude oder ChatGPT und ersetze die Platzhalter.
- Prüfe das Ergebnis gegen die Tabelle in diesem Beitrag.
- Lass dein Modell danach auf einem Vorführgerät gegenmessen.
Der Prompt zum Kopieren:
Du bist ein Hardware-Berater für lokale KI-Inferenz. Mein Modell: [Modellname], [Parameterzahl] Parameter, quantisiert auf [Bitbreite] Bit. Typische Eingabe: [Anzahl] Wörter, typische Antwort: [Anzahl] Wörter, gleichzeitige Nutzer: [Anzahl]. Prüfe für zwei Geräte mit je 128 GB Speicher und 273 GB/s Bandbreite: 1. Wie viel Speicher belegen Gewichte und KV-Cache? 2. Passt das Modell mit Reserve? 3. Wie viele Token pro Sekunde sind beim Generieren höchstens möglich, und was ist realistisch bei 75 Prozent Auslastung? 4. Wie lange dauert eine typische Antwort? Rechne Schritt für Schritt, nenne deine Annahmen und markiere, wo du unsicher bist.
Nutzen: Du gehst mit Zahlen statt Werbeversprechen ins Gespräch mit Anbietern und bestellst nur Muster, die für dein Modell überhaupt infrage kommen.
🔒 Datenkontrolle: 🟢 Grün
Datensensitivität: gering – du gibst nur Modellname, Größen und Nutzungsprofil ein.
Schutzstufe: öffentliche KI-Dienste sind geeignet.
Kontroll-Check: Keine Prüfberichte, Kundendaten oder internen Projektnamen in den Prompt kopieren.
Der KI-Soforttest: Gib als Beispiel ein: Qwen, 27 Milliarden Parameter, 4 Bit, 300 Wörter Eingabe, 200 Wörter Antwort, ein Nutzer.
Zu erwartendes Ergebnis: Rund 14 GB für die Gewichte plus einige GB KV-Cache, das Modell passt mit viel Reserve; höchstens rund 20 Token pro Sekunde, realistisch etwa 15; eine Antwort von 200 Wörtern dauert damit grob 15 bis 20 Sekunden.
✅ Dein Erfolgserlebnis, Wert & Nutzen: Du weißt nach fünf Minuten, ob sich ein Muster lohnt – und kannst jede Leistungsangabe eines Anbieters sofort auf Plausibilität prüfen.
Zwei Perspektiven zum Schluss
Die optimistische Sicht: Axera setzt Nvidia beim Preis unter Druck. Gleiche Speicherbandbreite bei rund 40 W ist für Fertigung und Robotik genau das richtige Profil, und Konkurrenz wird auch die Preise für Nvidias Boxen bewegen.
Die skeptische Sicht: Ein Datenblatt ist noch kein Produkt. Ohne fertige Toolchain, mit schwacher CPU und Vertrieb über Kickstarter ist die MaixStation vorerst ein Bastlergerät – in deiner Fertigungslinie zählt aber Verfügbarkeit über Jahre.
Mehr dazu im IoC Briefing
→ IoC Briefing vom 20.10.2026: Axera bringt 128-GB-Edge-KI-Chip für Fabrik und Roboter
→ IoC Briefing vom 15.10.2026: Cix Tech AGX Station auf der CIIF
Quellen
- Tom's Hardware: Sipeed reveals Chinese-made DGX Spark and Ryzen AI Halo rival (15.10.2026)
- CNX Software: Axera AX8860P 16-core Cortex-A55 SoC takes on NVIDIA DGX Spark (19.10.2026)
- Sina Finance: Axera stellt AX8860 auf der CIIF vor (14.10.2026, chinesisch)
- ai.rs: Axera AX8860 vs DGX Spark – Sipeed's MaixStation Claims, Checked
- CNX Software: Rockchip RK3668 und RK182X LLM/VLM-Co-Prozessor (18.07.2025)
- Nvidia: DGX Spark Hardware Overview
IntelligenceOnChip · oteeAI.de · Otmar Cürten, Founder Markt&Technik (KI-unterstützt recherchiert und redaktionell zusammengestellt)