NVIDIA lança receitas Dynamo para modelos coreanos

A NVIDIA lançou receitas de implementação otimizadas para Dynamo para vários modelos abertos coreanos de relevo: o A.X K2 da SK Telecom, o K-EXAONE 2.0 do LG AI Research, o Solar Open 2 da Upstage e o Motif-3 da Motif Technologies. As receitas servem para ajudar as equipas a servir modelos demasiado grandes para uma única GPU, repartindo-os por várias placas. Trata-se de um problema prático de infraestrutura e não do lançamento de um modelo de manchete. Um modelo aberto só é útil em produção se as organizações conseguirem implementá-lo com eficiência, com latência e custo aceitáveis. Um modelo forte mas difícil de servir pode ficar eternamente numa demonstração ou numa experiência. Ao fornecer orientação de implementação já afinada, a NVIDIA procura reduzir o esforço de engenharia necessário para pôr estes modelos coreanos a correr na sua plataforma. O lançamento também reforça o ecossistema de modelos abertos da Coreia, ao tornar os modelos locais mais fáceis de adotar numa infraestrutura de IA amplamente usada. Para as empresas, o valor está num tempo mais curto até à produção e num desempenho mais previsível. Para a NVIDIA, as receitas aprofundam a ligação aos criadores de modelos e ajudam a garantir que os novos modelos abertos são otimizados para o seu hardware e a sua stack de software. A tendência mais ampla é clara: a competição entre modelos abertos não se decide só nos benchmarks. Depende também de ferramentas, documentação e receitas de implementação que permitam às equipas passar dos pesos a serviços a funcionar. As receitas Dynamo da NVIDIA são um passo pequeno, mas importante, nesse sentido.