Cerebras y sus billones de parámetros impresionan, pero pide la factura

¿Sigue el mercado de la inferencia de IA en manos de Nvidia por defecto? A Cerebras le gustaría que pensaras que no, y su última entrada técnica es hasta ahora el argumento más sólido. Pero también nos recuerda que un buen argumento no es lo mismo que un pedido de compra.

Lo que Cerebras ha mostrado en realidad

En una entrada de su propio blog, Cerebras explica cómo reparte un modelo de varios billones de parámetros entre varias obleas WSE-3T. Cada oblea tiene 44 GB de memoria integrada en el chip. El ejemplo es Kimi K3, un modelo de código abierto de unos 3 billones de parámetros. La compañía afirma que puede servir estos modelos a entre 1000 y más de 2000 tokens por segundo. Es una cifra de la propia Cerebras, no una medición independiente.

El truco es una canalización (pipeline). Las capas permanecen fijas en cada oblea y solo las activaciones saltan de una a otra por Ethernet, a unos 2 microsegundos por salto según Cerebras. Fluyen muchas peticiones a la vez, así que ninguna oblea se queda parada.

El argumento de la arquitectura es más sólido que el márketing

A nuestro juicio, lo interesante no es la velocidad del titular, sino que el diseño esquiva el cuello de botella habitual. Cerebras sostiene que la generación está limitada por la rapidez con la que los pesos viajan de la memoria al cálculo, y que mantenerlos en el chip evita ese tráfico. Un rival como Groq hizo la misma apuesta por la SRAM, como señala la comparativa de Spheron, aunque con chips mucho más pequeños. Cuando dos empresas distintas apuestan contra la HBM, la tesis merece respeto.

También importa que se trate de un modelo abierto. Cerebras dice que Kimi K3 obtiene un 88,3 % en Terminal-Bench 2.1, frente al 88,8 % de GPT-5.6 Sol, e incluso supera a los principales modelos propietarios en algunas pruebas. Si siguen llegando pesos abiertos de nivel puntero, el hardware que los sirve con rapidez pasa a ser el factor diferencial. Ahí el foso de software de Nvidia puede pesar menos y el silicio especializado puede ganar terreno.

Pero «20 veces más rápido» es una afirmación, no una línea de tu factura

Fíjate en cómo se construyen las cifras. La página de Cerebras que compara el CS-3 con el B200 habla de 21 veces más rápido y un 32 % menos de coste. Esa cifra de titular se apoya en una prueba de SemiAnalysis con un solo modelo (Llama 3 70B) en un único escenario. La página cita otras pruebas para gpt-oss-120B y Llama 4 Maverick, pero siguen siendo un puñado de modelos, y las notas al pie de la propia empresa admiten que las mejoras de velocidad frente a las GPU «pueden variar según la carga de trabajo, la configuración, la fecha y los modelos evaluados».

La comparación con Groq muestra el mismo patrón. Spheron halló que la cifra de la propia Cerebras para GPT-OSS-120B ronda los 3000 tokens por segundo, mientras que Artificial Analysis midió unos 1700 de forma independiente. Sigue siendo rápido, pero es un número muy distinto. Spheron señala además que Groq es más barato por millón de tokens en los dos modelos que analizó, y que ninguno de los dos chips ofrece ajuste fino (fine-tuning) en autoservicio ni ejecuta algunas familias de modelos populares. Esos son los límites prácticos de la historia de la velocidad.

Y fíjate en lo que no encontramos en la nueva entrada. Explica las cuentas de la memoria, pero no vimos ningún precio por millón de tokens para Kimi K3 ni la latencia bajo carga. Dice que el rendimiento por megavatio a igual velocidad de salida es la métrica relevante, y estamos de acuerdo. Nos gustaría ver publicada esa cifra.

Qué deberían hacer los compradores

Tómalo como motivo para hacer una prueba comparativa, no para cambiar de proveedor. Pide el tiempo hasta el primer token y la latencia de extremo a extremo con la longitud real de tus prompts y tu concurrencia. Pide el precio por millón de tokens del modelo exacto que vayas a desplegar. Pregunta qué ocurre con la velocidad cuando el contexto crece hacia las peticiones de 256k que la entrada usa en su ejemplo de memoria. Compáralo con una prueba independiente, no con el gráfico de un proveedor.

Nuestro veredicto: Cerebras se ha ganado un sitio en la lista corta, y Nvidia ya no parece la única respuesta seria para la inferencia. Pero la prueba de un aspirante es un coste por token publicado bajo carga de producción, y todavía no lo hemos visto. Hasta que aparezca, mantén la cartera cerrada y tus pruebas de rendimiento abiertas.