本地推論

BaseRT

BaseRT by BaseCompute 是專為 Apple Silicon 打造的最快 LLM 執行環境，只需一行指令即可安裝，讓你在裝置上流暢執行本地模型。