Frei lesbar · ohne Abo
Offene KI-Modelle und Edge-KI im Aufwind
KI-Kosten senken und Daten im Haus behalten
Revolut spart 90 Prozent, Mercedes rechnet im Auto ohne Cloud. Offene Modelle und Edge-KI werden zur echten Alternative. Ich zeige Dir, wie Du jetzt prüfst, ob sich das lohnt.
Mein Spartipp für Dich
Viele Firmen zahlen für KI pro Abfrage und merken erst an der Rechnung, wie schnell das teuer wird. Revolut hat das erlebt und umgesteuert. Du musst nicht gleich 56 Hochleistungs-GPUs kaufen. Aber Du solltest jetzt wissen, welche Deiner KI-Aufgaben auch ein offenes Modell erledigen kann.
Reifegrad: im Einsatz bei Vorreitern · für den Mittelstand: Pilotphase
Was Revolut anders macht
Revolut hatte KI-Programmierhilfen zunächst als Cloud-Dienst gemietet, darunter Gemini und Claude Code. Der Nutzen war unklar, die Kosten hoch. Das Unternehmen setzte Budgetgrenzen, worauf die Entwickler KI nur noch sparsam einsetzten.
Dann kam der Wechsel: Revolut betreibt jetzt das offene Modell GLM des chinesischen Anbieters Z.ai auf eigenen Servern mit 56 Nvidia-B200-Grafikprozessoren. Das Ergebnis laut Revolut: rund 90 Prozent weniger Kosten für KI-Abfragen, die Programmierzeit sank um etwa 60 Prozent. Den größten Effekt brachten Feinabstimmung und Software-Optimierung, nicht zusätzliche Hardware. (Zur Meldung)
Die naheliegende Sorge vor einem chinesischen Modell beantwortet Revolut so: Das Risiko liege vor allem bei Diensten, die in China betrieben werden. Wer das Modell selbst betreibt, behält die Daten im eigenen Rechenzentrum.
KI im Auto, auch im Funkloch
Mercedes geht denselben Weg im Fahrzeug. Gemeinsam mit dem MIT-Ableger Liquid AI rechnet der Sprachassistent im MBUX-System direkt im Auto: Spracherkennung, Verstehen und Schlussfolgern. Das ist schneller, die Sprachdaten bleiben im Fahrzeug, und der Assistent funktioniert auch ohne Mobilfunk. Für allgemeine Wissensfragen bleibt die Cloud im Spiel. Start ist zunächst in Nordamerika. (Zur Meldung)
Das Muster kennst Du aus der Elektronik. Arm meldet Wachstum bei Physical AI in Robotern und Maschinen, und Nordic bringt KI auf batteriebetriebene WLAN-Chips.
Die Modelle sind da
Allein in dieser Woche: Mistral gibt ein Modell mit einer Billion Parametern zum Selbstbetreiben frei, eine europäische Option ohne US- oder China-Anbieter. Tencent legt mit Hy4 ein Modell nach, das Programme selbst bedienen kann. Meituan zeigt ein Billionen-Modell, das auf chinesischen Chips läuft.
Die Anbieter fragen sich, wie sie Geld verdienen, wenn starke Modelle frei verfügbar sind, und ob die USA gegen offene Modelle aus China mithalten. Für Dich als Anwender ist das die gute Nachricht: Der Wettbewerb drückt die Preise.
Gleichzeitig zeigt eine Bitkom-Umfrage, dass Firmen KI aus Deutschland wollen, aber nicht teurer. Selbst betriebene offene Modelle können beides verbinden.
Meine Meinung: Jetzt testen, nicht erst, wenn die Rechnung explodiert
Ich halte offene Modelle für die wichtigste Kostenbremse der nächsten zwei Jahre. Wenn Rechenzentren knapper und teurer werden, wird jede Abfrage in der Cloud teurer. Wer dann schon weiß, welche Aufgaben ein lokales Modell erledigt, verhandelt aus einer starken Position.
Das heißt nicht, alle Cloud-Dienste zu kündigen. Für schwierige Aufgaben liefern die großen Modelle weiterhin die besten Ergebnisse. Für Routine wie Zusammenfassen, Übersetzen, Datenblätter auswerten oder Code ergänzen reichen offene Modelle aber oft aus. Plane aufzuteilen in Cloud und Lokale-KI.
Was das für Dich bedeutet
- Erfasse, was Dein Unternehmen heute monatlich für KI-Abfragen ausgibt.
- Suche die Aufgaben mit dem höchsten Volumen, denn dort lohnt sich ein lokales Modell zuerst.
- Teste ein offenes Modell in einem Pilotprojekt mit unkritischen Daten.
- Plane Edge-KI in neue Produkte ein, weil sie Cloud-Kosten und Datenschutzfragen gleich mit löst.
Randbedingungen
- Selbstbetrieb verlagert Kosten: Hardware, Strom, Wartung und Fachpersonal kommen hinzu. Revoluts 56 B200 sind eine Millioneninvestition.
- Für kleinere Firmen reichen oft kleinere Modelle auf einer Workstation oder bei einem europäischen Cloud-Anbieter.
- Die Lizenzen offener Modelle unterscheiden sich, manche schränken die kommerzielle Nutzung ein.
- Bei Modellen aus China Herkunft, Lizenz und interne Richtlinien prüfen.
- Die 90 Prozent sind eine Angabe von Revolut.
🧑💻 Dein Quick-Check zur Nachricht: KI-Kostenanalyse mit einem Chat-Assistenten
Das Ziel
Herausfinden, welche KI-Aufgaben Deines Unternehmens sich für ein offenes Modell im Selbstbetrieb eignen.
Anwendungsfall
Du hast eine Liste Deiner KI-Dienste und ungefähre Kosten und willst wissen, wo Sparpotenzial liegt, ohne selbst IT-Fachmann zu sein.
Ein Beispiel aus der Praxis
Ein Distributor nutzt KI für Angebotstexte, Datenblatt-Zusammenfassungen und Kundenanfragen und zahlt dafür 2.400 Euro im Monat. Welche dieser Aufgaben kann ein offenes Modell übernehmen?
Schritt für Schritt
- Liste Deine KI-Anwendungen mit Zweck, geschätzten Abfragen pro Monat und Kosten.
- Entferne Kundennamen und vertrauliche Zahlen, runde die Beträge.
- Kopiere den Prompt in Deinen Chat-Assistenten und ersetze die Platzhalter durch Deine Liste.
- Besprich die Empfehlung mit Deiner IT, bevor Du entscheidest.
Der Prompt zum Kopieren
Du bist Berater für KI-Kosten in einem mittelständischen Elektronikunternehmen. Hier ist unsere Liste der KI-Anwendungen mit Zweck, Abfragen pro Monat und Kosten:
[Anwendung 1: Datenblätter zusammenfassen, ca. 3.000 Abfragen, 900 €/Monat]
[Anwendung 2: Angebotstexte formulieren, ca. 1.500 Abfragen, 600 €/Monat]
[Anwendung 3: ...]
Bewerte jede Anwendung:
1. Eignet sie sich für ein offenes Modell im Selbstbetrieb oder bei einem europäischen Cloud-Anbieter?
2. Welche Modellgröße reicht dafür aus?
3. Welches Sparpotenzial ist realistisch (als Spanne)?
4. Welche Risiken gibt es bei Qualität, Datenschutz und Wartung?
Erstelle eine Tabelle mit höchstens vier Spalten und empfiehl die eine Anwendung, mit der wir einen ersten Pilotversuch starten sollten.Nutzen
In 15 Minuten hast Du eine Entscheidungsgrundlage für das Gespräch mit IT oder Geschäftsführung.
🔒 Datenkontrolle
- 🟡 Gelb
- Datensensitivität: mittel (interne Anwendungen und Kosten)
- Schutzstufe: nur anonymisierte, gerundete Werte eingeben
- Kontroll-Check: Stehen Kunden, Lieferanten oder genaue Vertragskonditionen im Text? Dann vorher entfernen.
Der KI-Soforttest
Schick den Prompt zuerst mit den Beispielwerten ab und prüfe, ob die Antwort verständlich und plausibel ist.
Zu erwartendes Ergebnis
Eine Tabelle mit einer Einschätzung je Anwendung und einer klaren Empfehlung für den Pilotversuch.
✅ Dein Erfolgserlebnis, Wert & Nutzen
Du weißt, wo Deine KI-Kosten stecken und welchen Schritt Du als Nächstes testest.
→ Diesen Quick-Check findest Du auch unter KI-Tools & Prompts
Die Sicht der Skeptiker: Selbstbetrieb klingt billig, bindet aber Personal und Kapital. Wer keine eigene IT-Mannschaft hat, verlagert das Problem nur.
Die Sicht der Befürworter: Die Abhängigkeit von wenigen Cloud-Anbietern ist das größere Risiko. Offene Modelle werden jeden Monat besser und kleiner.