O limite tensor da Nvidia parece decisão de preço, e o Linux acaba de expor isso

Se uma placa consegue entregar o dobro de desempenho tensor em algumas operações depois de um módulo de kernel e uma reinicialização, ela algum dia foi mesmo "limitada" pela física? Essa é a pergunta incômoda que a Nvidia agora precisa responder, e achamos que a resposta é óbvia.

O que realmente aconteceu

Segundo o PC Games Hardware, três projetos de desenvolvedores já contornam a limitação tensor em algumas placas GeForce RTX das séries 20, 30 e 40 no Linux. Eles se baseiam em trabalhos anteriores com as placas de mineração CMP da Nvidia. A versão para Ada Lovelace, o gpu-unlock-ada, remove o limite em operações FP16 e BF16 com acumulação em FP32 em uma RTX 4090. O desempenho medido passa de 165,6 para 331,6 TFLOPS.

O projeto para Ampere, o gpu-unlock, é o mais maduro. Em uma RTX 3090 Ti, segundo o relatório, o BF16 sobe de 87,5 para 157,4 TFLOPS, um ganho de quase 80%. Nenhuma unidade de computação ou memória extra é liberada. O módulo roda antes do driver normal, usando firmware assinado da Nvidia, e depois o driver original assume. A alteração some na reinicialização e precisa ser aplicada de novo a cada boot.

Os números dizem "segmentação", não "física"

A Nvidia documenta essa divisão há anos. No whitepaper da Ada Lovelace, segundo o PCGH, a RTX 4090 aparece com 165,2 TFLOPS em FP16 com acumulação em FP32 e 330,3 TFLOPS com acumulação em FP16. O resultado desbloqueado cai quase exatamente no segundo número. Mesmo chip, mesmo silício e um teto que, evidentemente, é uma configuração.

Isso parece segmentação de mercado clássica. Produtos profissionais e de data center construídos sobre as mesmas GPUs recebem a taxa completa, e quem compra GeForce não. A Nvidia tem o direito de vender produtos diferentes a preços diferentes. Mas achamos difícil defender que o valor de um registrador seja uma diferença de hardware. Um tópico no Reddit foi direto: o desbloqueio remove uma restrição artificial para que clientes corporativos possam ser cobrados mais. É uma opinião de fórum, não um fato documentado, e o motivo da Nvidia não está explícito nas fontes. Mas, para nós, é difícil ler os dados de outra forma.

Também achamos que o momento importa. O limite pesa mais no BF16, que, segundo o PCGH, muitos modelos de IA atuais usam. A Nvidia vendeu essas placas num mundo de jogos. Hoje os donos rodam nelas modelos de linguagem e geração de imagens localmente e, na nossa leitura, uma trava que protege produtos voltados à IA também os atinge.

Sem exagerar o ganho e sem ignorar os riscos

Antes que alguém corra para gravar qualquer firmware, um balde de água fria. Os ganhos são desiguais. O PCGH relata os maiores saltos no processamento de prompts longos e em certos modelos de imagem, enquanto a geração de um único token quase não acelera. Nenhum ganho de taxa de quadros em jogos foi medido. O FP8, que a Nvidia promoveu bastante na Ada, melhorou apenas 0,3% no único teste feito até agora.

As evidências para a placa principal também são frágeis. O sucesso com a 4090 foi documentado em uma única placa após uma inicialização a frio, e o PCGH diz que a confiabilidade em outras unidades não foi estudada direito. A Ampere tem relatos de usuários para apenas cinco modelos, e a Turing é só um estudo de viabilidade. Trata-se de software experimental que roda abaixo do driver e inicia firmware assinado com uma carga personalizada. Trataríamos como firmware de overclock: tudo bem num computador reserva, má ideia na máquina de que você precisa para trabalhar amanhã. Também não contaríamos com boa vontade da garantia, embora a documentação não diga como a Nvidia vai reagir, e não vamos especular.

Nosso veredito

As pessoas deveriam ser donas do silício pelo qual pagam. Se um chip pode fazer algo com segurança, deixá-lo desativado no firmware só para proteger um modelo mais caro é difícil de justificar para quem compra uma placa topo de linha. O fato de a comunidade ter precisado mergulhar no firmware para chegar lá é a verdadeira notícia. O melhor desfecho seria a Nvidia transformar isso em uma opção oficial e com suporte, ou ao menos explicar onde fica a linha. Duvidamos que faça isso, já que o objetivo do limite parece ser separar preços.

Até lá, nosso conselho é simples. Se você roda IA local em uma GeForce mais antiga no Linux, acompanhe o amadurecimento desses projetos, teste em hardware não crítico e espere por mais de uma 4090 bem-sucedida. E, se está decidindo o que comprar, lembre-se de que as fichas técnicas descrevem o que o fabricante deixa o chip fazer, não necessariamente o que ele consegue fazer.