Os trilhões de parâmetros da Cerebras impressionam, mas peça a conta

O mercado de inferência de IA ainda é da Nvidia por padrão? A Cerebras gostaria que você achasse que não, e a postagem técnica mais recente da empresa é o argumento mais forte até agora. Mas ela também lembra que um bom argumento não é o mesmo que uma ordem de compra.

O que a Cerebras realmente mostrou

Em uma postagem no próprio blog, a Cerebras explica como divide um modelo de vários trilhões de parâmetros entre vários wafers WSE-3T. Cada wafer tem 44 GB de memória no próprio chip. O exemplo é o Kimi K3, modelo de código aberto com cerca de 3 trilhões de parâmetros. A empresa diz que consegue servir esses modelos a 1.000–2.000+ tokens por segundo. Esse é um número da própria Cerebras, não uma medição independente.

O truque é um pipeline. As camadas ficam fixas em cada wafer, e apenas as ativações saltam entre wafers por Ethernet, a cerca de 2 microssegundos por salto, segundo a Cerebras. Muitas requisições fluem ao mesmo tempo, então nenhum wafer fica parado.

O argumento de arquitetura é mais forte que o marketing

Para nós, a parte interessante não é a velocidade do título, e sim o fato de o projeto contornar o gargalo habitual. A Cerebras argumenta que a geração é limitada pela rapidez com que os pesos vão da memória para o cálculo, e que mantê-los no chip evita esse tráfego. Uma rival como a Groq fez a mesma aposta em SRAM, como observa a comparação da Spheron, só que com chips bem menores. Quando duas empresas diferentes apostam contra a HBM, a tese merece respeito.

Também importa que seja um modelo aberto. A Cerebras diz que o Kimi K3 marca 88,3% no Terminal-Bench 2.1, contra 88,8% do GPT-5.6 Sol, e até supera modelos proprietários líderes em alguns benchmarks. Se pesos abertos de nível de fronteira continuarem chegando, o hardware que os serve rápido vira o diferencial. Aí o fosso de software da Nvidia pode pesar menos, e o silício especializado pode ganhar.

Mas "20 vezes mais rápido" é uma afirmação, não um item da sua fatura

Veja como os números são construídos. A página da Cerebras comparando o CS-3 com o B200 fala em 21 vezes mais rápido e 32% de custo a menos. Esse número de manchete se apoia em um benchmark da SemiAnalysis com um modelo (Llama 3 70B) em um cenário. A página cita outros benchmarks para o gpt-oss-120B e o Llama 4 Maverick, mas ainda são poucos modelos, e as notas de rodapé da própria empresa admitem que os ganhos de velocidade em relação às GPUs "podem variar conforme a carga de trabalho, a configuração, a data e os modelos testados".

A comparação com a Groq mostra o mesmo padrão. A Spheron encontrou o número da própria Cerebras para o GPT-OSS-120B em cerca de 3.000 tokens por segundo, enquanto a Artificial Analysis mediu cerca de 1.700 de forma independente. Ainda é rápido, mas é um número bem diferente. A Spheron também observa que a Groq é mais barata por milhão de tokens nos dois modelos que acompanhou, e que nenhum dos chips oferece fine-tuning em autoatendimento nem roda algumas famílias de modelos populares. Esses são os limites práticos da história da velocidade.

E repare no que não encontramos na nova postagem. Ela explica a conta da memória, mas não vimos preço por milhão de tokens para o Kimi K3 nem latência sob carga. Diz que a vazão por megawatt, com a mesma velocidade de saída, é a métrica que importa, e concordamos. Gostaríamos de ver esse número publicado.

O que os compradores devem fazer

Encare isso como motivo para fazer um teste comparativo, não para trocar de fornecedor. Peça o tempo até o primeiro token e a latência de ponta a ponta com o tamanho real dos seus prompts e a sua concorrência. Peça o preço por milhão de tokens do modelo exato que você vai implantar. Pergunte o que acontece com a velocidade quando o contexto cresce em direção às requisições de 256k que a postagem usa no exemplo de memória. Compare com um benchmark independente, não com o gráfico de um fornecedor.

Nosso veredito: a Cerebras mereceu um lugar na lista de finalistas, e a Nvidia parece não ser mais a única resposta séria para inferência. Mas a prova de uma desafiante é um custo por token publicado sob carga de produção, e ainda não o vimos. Até aparecer, mantenha a carteira fechada e os benchmarks abertos.