inferencia local

2 herramientas con esta etiqueta

Mejores 2 herramientas inferencia local en 2026

BaseRT, oprel están entre las mejores herramientas etiquetadas "inferencia local" de pago / gratis.

BaseRT

BaseRT de BaseCompute es el runtime para LLM más rápido en Apple Silicon. Instalación con un solo comando y ejecución local de modelos directamente en tu dispositivo.

oprel

Biblioteca Python de alto rendimiento de Oprel para ejecutar modelos de lenguaje grandes localmente, con tiempo de ejecución listo para producción, gestión avanzada de memoria, descarga híbrida y soporte multimodal completo.