inferencia local
2 herramientas con esta etiqueta
Mejores 2 herramientas inferencia local en 2026
BaseRT, oprel están entre las mejores herramientas etiquetadas "inferencia local" de pago / gratis.
BaseRT
BaseRT de BaseCompute es el runtime para LLM más rápido en Apple Silicon. Instalación con un solo comando y ejecución local de modelos directamente en tu dispositivo.
oprel
Biblioteca Python de alto rendimiento de Oprel para ejecutar modelos de lenguaje grandes localmente, con tiempo de ejecución listo para producción, gestión avanzada de memoria, descarga híbrida y soporte multimodal completo.