Vera Rubin NVL72 da NVIDIA lidera MLPerf Inference

A NVIDIA revelou que o seu sistema Vera Rubin NVL72 alcançou os melhores resultados na estreia do MLPerf Inference v6.1, uma versão do benchmark que mede a rapidez e a eficiência com que sistemas de IA lidam com cargas reais de inferência. A empresa não apresenta o resultado apenas como um recorde de velocidade, mas como prova de que o desempenho em inferência está a tornar-se uma métrica económica central para as AI factories. Nesta lógica, cada ganho de débito traduz-se em mais tokens gerados por unidade de tempo, o que pode aumentar diretamente a receita de operadores que vendem acesso a modelos ou correm serviços de IA em grande escala. A NVIDIA sublinha ainda que o desempenho ao nível do sistema conta tanto como as especificações de cada chip. O Vera Rubin NVL72 é posicionado como uma plataforma à escala de rack, e o seu resultado no benchmark reflete avanços coordenados em GPUs, redes, memória e software. O escalonamento eficiente da infraestrutura é outro pilar: à medida que os clientes acrescentam hardware, o débito deve crescer de forma previsível, sem estagnar por causa de estrangulamentos. A otimização contínua de software é a terceira alavanca, permitindo melhorar instalações já existentes ao longo do tempo sem substituir hardware. A estreia no MLPerf dá aos clientes uma forma padronizada de comparar estas alegações com sistemas rivais, ao mesmo tempo que sinaliza que a competição em infraestrutura de IA está a deslocar-se da velocidade bruta de treino para a economia da inferência. Para empresas e fornecedores de cloud, a conclusão é que escolher uma plataforma de inferência implica hoje equilibrar desempenho, eficiência de escalonamento, maturidade de software e custo total por token. O resultado da NVIDIA deverá intensificar esse debate à medida que as cargas de IA passam da experimentação para a produção em grande volume.