Inkling-Small: IA compacta que supera a su hermana mayor

Thinking Machines, la startup de IA liderada por Mira Murati, ex CTO de OpenAI, ha lanzado un nuevo modelo de código abierto llamado Inkling-Small. El modelo está diseñado para ofrecer un rendimiento cercano a su predecesor, Inkling, pero con aproximadamente una cuarta parte del tamaño. El lanzamiento llega solo dos semanas después del Inkling original, lo que indica un ciclo de iteración rápido por parte de la compañía. A pesar de su menor tamaño, Inkling-Small supera a su hermano mayor en varios benchmarks. Esto es un logro notable, ya que demuestra que la eficiencia no tiene por qué ir en detrimento de la capacidad. El diseño compacto del modelo facilita su despliegue en entornos con recursos limitados, como dispositivos móviles, servidores de borde o aplicaciones con presupuestos de memoria y cómputo restringidos. La naturaleza de código abierto de Inkling-Small es una parte clave de la estrategia de Thinking Machines. Al hacer el modelo disponible gratuitamente, la compañía busca atraer a desarrolladores e investigadores que quieran experimentar con IA eficiente sin la sobrecarga de los sistemas propietarios. Este movimiento también posiciona a Thinking Machines como un actor en la comunidad de IA de código abierto, compitiendo con otros lanzamientos de organizaciones como Meta y Mistral. Inkling-Small se basa en los mismos principios arquitectónicos que el Inkling original, pero con optimizaciones que reducen el número de parámetros y los requisitos computacionales. La compañía afirma que el modelo mantiene sólidas capacidades de razonamiento y comprensión del lenguaje, lo que lo hace adecuado para una amplia gama de tareas, desde chatbots hasta generación de código. Para los desarrolladores, el lanzamiento de Inkling-Small ofrece una opción práctica para desplegar IA en entornos donde los modelos más grandes son poco prácticos. También proporciona un punto de referencia de lo que se puede lograr con técnicas cuidadosas de compresión y destilación de modelos. Thinking Machines planea seguir iterando en la familia Inkling, con un enfoque en equilibrar rendimiento, tamaño y accesibilidad.