Les mille milliards de paramètres de Cerebras impressionnent, mais demandez la facture

Le marché de l'inférence IA appartient-il encore à Nvidia par défaut ? Cerebras aimerait vous faire croire que non, et son dernier article technique est son meilleur argument à ce jour. C'est aussi un rappel qu'un bon argument ne vaut pas un bon de commande.

Ce que Cerebras a réellement montré

Dans un article publié sur son propre blog, Cerebras explique comment elle répartit un modèle de plusieurs billions de paramètres sur plusieurs wafers WSE-3T. Chaque wafer dispose de 44 Go de mémoire intégrée à la puce. L'exemple retenu est Kimi K3, un modèle open source d'environ 3 billions de paramètres. L'entreprise affirme pouvoir servir de tels modèles à 1 000 à plus de 2 000 tokens par seconde. Il s'agit du chiffre de Cerebras elle-même, pas d'une mesure indépendante.

L'astuce est un pipeline. Les couches restent en place sur chaque wafer, et seules les activations passent d'un wafer à l'autre via Ethernet, à raison d'environ 2 microsecondes par saut selon Cerebras. De nombreuses requêtes circulent en même temps, si bien qu'aucun wafer ne reste inactif.

L'argument d'architecture est plus solide que le marketing

À nos yeux, le plus intéressant n'est pas la vitesse affichée en une, mais le fait que cette conception contourne le goulet d'étranglement habituel. Cerebras soutient que la génération est limitée par la vitesse à laquelle les poids circulent de la mémoire vers le calcul, et que les garder sur la puce évite ce trafic. Un concurrent comme Groq a fait le même pari sur la SRAM, comme le note la comparaison de Spheron, mais avec des puces bien plus petites. Quand deux entreprises différentes parient contre la HBM, la thèse mérite le respect.

Il compte aussi qu'il s'agisse d'un modèle ouvert. Cerebras indique que Kimi K3 obtient 88,3 % sur Terminal-Bench 2.1, contre 88,8 % pour GPT-5.6 Sol, et dépasse même les principaux modèles propriétaires sur certains tests. Si des poids ouverts de niveau de pointe continuent d'arriver, le matériel qui les sert rapidement devient le facteur de différenciation. C'est là que l'avantage logiciel de Nvidia pourrait peser moins, et que le silicium spécialisé peut l'emporter.

Mais « 20 fois plus rapide » est une affirmation, pas une ligne de votre facture

Regardez comment les chiffres sont construits. La page de Cerebras comparant le CS-3 au B200 annonce 21 fois plus rapide et 32 % de coût en moins. Ce chiffre phare repose sur un benchmark de SemiAnalysis portant sur un seul modèle (Llama 3 70B) dans un seul scénario. La page cite d'autres benchmarks pour gpt-oss-120B et Llama 4 Maverick, mais cela reste une poignée de modèles, et les notes de bas de page de l'entreprise reconnaissent que les gains de vitesse par rapport aux GPU « peuvent varier selon la charge de travail, la configuration, la date et les modèles testés ».

La comparaison avec Groq révèle le même schéma. Spheron a relevé que le chiffre de Cerebras elle-même pour GPT-OSS-120B tourne autour de 3 000 tokens par seconde, tandis qu'Artificial Analysis en a mesuré environ 1 700 de façon indépendante. C'est toujours rapide, mais c'est un tout autre chiffre. Spheron note aussi que Groq est moins cher par million de tokens sur les deux modèles suivis, et qu'aucune des deux puces ne propose de fine-tuning en libre-service ni n'exécute certaines familles de modèles populaires. Ce sont les limites pratiques de l'histoire de la vitesse.

Et notez ce que nous n'avons pas trouvé dans le nouvel article. Il explique le calcul de la mémoire, mais nous n'y avons vu ni prix par million de tokens pour Kimi K3 ni latence sous charge. Il dit que le débit par mégawatt à vitesse de sortie égale est la métrique pertinente, et nous sommes d'accord. Nous aimerions voir ce chiffre publié.

Ce que les acheteurs devraient faire

Voyez-y une raison de lancer un banc d'essai comparatif, pas de changer de fournisseur. Demandez le délai avant le premier token et la latence de bout en bout avec vos longueurs de prompt et votre concurrence réelles. Demandez le prix par million de tokens pour le modèle exact que vous déploierez. Demandez ce qu'il advient de la vitesse quand le contexte grandit vers les requêtes de 256k utilisées dans l'exemple mémoire de l'article. Comparez avec un benchmark indépendant, pas avec le graphique d'un fournisseur.

Notre verdict: Cerebras a gagné sa place sur la liste restreinte, et Nvidia ne semble plus être la seule réponse sérieuse pour l'inférence. Mais la preuve pour un challenger, c'est un coût par token publié sous charge de production, et nous ne l'avons pas encore vu. D'ici là, gardez votre portefeuille fermé et vos benchmarks ouverts.