ローカル推論

このタグのツール 2 件

2026年 おすすめのローカル推論ツール 2選

BaseRT、oprel など、「ローカル推論」タグの無料／有料の優良ツールです。

BaseRT

BaseRT by BaseComputeは、Apple Silicon向けに最適化された最速のLLMランタイムです。ワンコマンドでインストール完了、すぐにローカルでモデルを実行できます。

oprel

Oprel社製の高性能Pythonライブラリ。大規模言語モデルをローカルで実行し、プロダクション対応のランタイム、高度なメモリ管理、ハイブリッドオフロード、完全なマルチモーダルサポートを提供。