LLM

oprel

Oprel开发的高性能Python库，用于本地运行大型语言模型，具备生产级运行时、高级内存管理、混合卸载和完整多模态支持。