Groq supuestamente recauda 650 millones de dólares tras el acuerdo de 20 mil millones de Nvidia

La startup de chips de IA Groq está buscando 650 millones de dólares en financiación interna mientras pasa de la fabricación de hardware a centrarse en la optimización de la inferencia de IA. El movimiento se produce tras el acuerdo de 'no adquisición-contratación' de 20 mil millones de dólares de Nvidia, en el que Nvidia absorbió una parte significativa del talento en hardware y la propiedad intelectual de Groq. Groq inicialmente llamó la atención por sus chips diseñados a medida que prometían un procesamiento más rápido y eficiente para cargas de trabajo de IA. Sin embargo, la empresa ha decidido cambiar su estrategia hacia software y servicios que optimizan cómo los modelos de IA responden a las indicaciones, un proceso conocido como inferencia. Esta es un área crítica en la pila de IA, ya que los costos de inferencia pueden superar rápidamente los costos de entrenamiento una vez que los modelos se implementan a escala. La ronda de financiación reportada valoraría a Groq en varios miles de millones de dólares, lo que refleja la confianza de los inversores en el mercado de inferencia. El nuevo enfoque de Groq incluye el desarrollo de herramientas que reducen la latencia y el consumo de energía para modelos de lenguaje grandes, haciéndolos más prácticos para aplicaciones en tiempo real como chatbots, asistentes de voz y sistemas autónomos. Los observadores de la industria señalan que el giro tiene sentido estratégico. Mientras que el hardware requiere mucho capital y está dominado por Nvidia, la capa de inferencia aún está fragmentada y lista para la innovación. La plataforma de software de Groq pretende ser independiente del hardware, permitiendo a los clientes optimizar modelos en diferentes chips, incluidos los de Nvidia, AMD y aceleradores personalizados. El acuerdo con Nvidia, aunque no es una adquisición directa, efectivamente le dio a Nvidia acceso a la experiencia en diseño de chips de Groq, dejando a Groq libre para perseguir sus ambiciones de software. Esta relación simbiótica podría beneficiar a ambas empresas: Nvidia fortalece su hoja de ruta de hardware, mientras que Groq se centra en el mercado de inferencia de alto margen. Si tiene éxito, el giro de Groq podría acelerar la adopción de la IA al reducir los costos operativos para las empresas. La empresa planea utilizar la nueva financiación para expandir su equipo de ingeniería y construir socios.