Cerebras' Billionen-Parameter-Versprechen beeindruckt – doch verlangen Sie die Rechnung

Gehört der Markt für KI-Inferenz weiterhin automatisch Nvidia? Cerebras möchte, dass man daran zweifelt, und der jüngste Technikbeitrag des Unternehmens ist das bislang stärkste Argument. Er erinnert aber auch daran, dass ein gutes Argument noch keine Bestellung ist.

Was Cerebras tatsächlich gezeigt hat

In einem Beitrag im eigenen Blog erklärt Cerebras, wie sich ein Modell mit mehreren Billionen Parametern auf mehrere WSE-3T-Wafer verteilen lässt. Jeder Wafer verfügt über 44 GB On-Chip-Speicher. Als Beispiel dient das Open-Source-Modell Kimi K3 mit rund 3 Billionen Parametern. Das Unternehmen gibt an, solche Modelle mit 1.000 bis über 2.000 Token pro Sekunde bedienen zu können. Das ist eine Angabe von Cerebras selbst, keine unabhängige Messung.

Der Kniff ist eine Pipeline. Die Schichten bleiben auf dem jeweiligen Wafer, nur die Aktivierungen springen per Ethernet von Wafer zu Wafer, laut Cerebras mit etwa 2 Mikrosekunden pro Sprung. Viele Anfragen laufen gleichzeitig durch, sodass kein Wafer brachliegt.

Das Architekturargument ist stärker als das Marketing

Aus unserer Sicht ist nicht die Schlagzeilen-Geschwindigkeit der interessante Teil, sondern dass das Design den üblichen Engpass umgeht. Cerebras argumentiert, die Generierung werde dadurch begrenzt, wie schnell Gewichte vom Speicher zur Recheneinheit wandern, und das Halten im Chip vermeide diesen Datenverkehr. Ein Konkurrent wie Groq hat laut Spherons Vergleich dieselbe Wette auf SRAM abgeschlossen, nur mit deutlich kleineren Chips. Wenn zwei verschiedene Unternehmen gegen HBM wetten, verdient die These Respekt.

Wichtig ist auch, dass es sich um ein offenes Modell handelt. Laut Cerebras erreicht Kimi K3 bei Terminal-Bench 2.1 88,3 % gegenüber 88,8 % für GPT-5.6 Sol und schlägt bei einigen Benchmarks sogar führende proprietäre Modelle. Wenn weiterhin offene Gewichte auf Spitzenniveau erscheinen, wird die Hardware, die sie schnell ausliefert, zum Unterscheidungsmerkmal. Dort könnte Nvidias Software-Burggraben weniger zählen, und spezialisierte Chips können gewinnen.

Aber „20-mal schneller“ ist eine Behauptung, kein Posten auf Ihrer Rechnung

Sehen Sie sich an, wie die Zahlen zustande kommen. Auf der Seite von Cerebras zum Vergleich CS-3 und B200 ist von 21-facher Geschwindigkeit und 32 % niedrigeren Kosten die Rede. Diese Schlagzeilenzahl beruht auf einem SemiAnalysis-Benchmark mit einem Modell (Llama 3 70B) in einem Szenario. Die Seite nennt zwar weitere Benchmarks für gpt-oss-120B und Llama 4 Maverick, doch auch das sind nur wenige Modelle, und die Fußnoten des Unternehmens räumen ein, dass die Geschwindigkeitsvorteile gegenüber GPUs „je nach Workload, Konfiguration, Datum und getesteten Modellen variieren können“.

Der Vergleich mit Groq zeigt dasselbe Muster. Spheron stellte fest, dass Cerebras' eigene Angabe für GPT-OSS-120B bei rund 3.000 Token pro Sekunde liegt, während Artificial Analysis unabhängig etwa 1.700 maß. Das ist immer noch schnell, aber eine ganz andere Zahl. Spheron weist zudem darauf hin, dass Groq bei den beiden untersuchten Modellen pro Million Token günstiger ist und dass keiner der beiden Chips Fine-Tuning im Self-Service anbietet oder einige beliebte Modellfamilien ausführt. Das sind die praktischen Grenzen der Geschwindigkeitsgeschichte.

Und beachten Sie, was wir im neuen Beitrag nicht gefunden haben. Er erklärt die Speicherrechnung, doch wir sahen weder einen Preis pro Million Token für Kimi K3 noch die Latenz unter Last. Es heißt dort, der Durchsatz pro Megawatt bei gleicher Ausgabegeschwindigkeit sei die aussagekräftige Kennzahl, und dem stimmen wir zu. Wir würden diese Zahl gern veröffentlicht sehen.

Was Käufer tun sollten

Sehen Sie darin einen Anlass für einen direkten Vergleichstest, nicht für einen Anbieterwechsel. Fordern Sie Time-to-First-Token und Ende-zu-Ende-Latenz bei Ihren realen Prompt-Längen und Ihrer Parallelität. Fordern Sie den Preis pro Million Token für genau das Modell, das Sie einsetzen werden. Fragen Sie, was mit der Geschwindigkeit passiert, wenn der Kontext in Richtung der 256k-Anfragen wächst, die der Beitrag in seinem Speicherbeispiel verwendet. Vergleichen Sie mit einem unabhängigen Benchmark, nicht mit der Grafik eines Anbieters.

Unser Urteil: Cerebras hat sich einen Platz auf der Auswahlliste verdient, und Nvidia scheint nicht mehr die einzige ernsthafte Antwort für Inferenz zu sein. Doch der Beweis für einen Herausforderer sind veröffentlichte Kosten pro Token unter Produktionslast, und die haben wir noch nicht gesehen. Bis dahin gilt: Portemonnaie zu, Benchmarks offen.