BaseRT

BaseRTとは？

BaseRTは、BaseComputeが開発したApple Silicon向けに特化した高性能ランタイムです。1つのコマンドでデバイス上に大規模言語モデル（LLM）をインストールして実行できます。Apple Silicon上で最速のLLMランタイムとして宣伝されており、MLXやllama.cppなどの代替手段と比較して大幅な速度向上を実現します。モデルをローカルで直接提供できるため、APIキーや外部ネットワーク呼び出しを必要とせず、すべてのデータをデバイス上に保持できます。

Application scenarios

ローカルAI開発
Apple Silicon搭載のMac上で、クラウドに依存せずにオープンソースモデルを完全に実行・テスト。
コーディングエージェント
モデルをローカルで提供し、コーディングエージェントをそれに接続することで、プライベートでオフラインのコード支援を実現。
プライバシー重視のタスク
機密性の高いプロジェクトに最適。デバイス外にデータを送信せずにAIワークロードを実行。
モデルベンチマーク
BaseRTの組み込みベンチマークを使用して、MLXやllama.cppと比較しながらモデルのパフォーマンスを評価。
コミュニティ実験
オンデバイスAIとオープンソースモデルに取り組むエンジニア向けのDiscordコミュニティに参加。

Core Features

ワンコマンドインストール
`curl -LsSf https://basecompute.co/install.sh | sh` の1つのコマンドでBaseRTをインストール。
最速のApple Siliconランタイム
llama.cppと比較して最大33%高速なデコード速度、最大6.4倍高速なプリフィル速度を達成。MLXと比較して最大3.9倍高速なプリフィル。
モデル提供
`basert serve basecompute/gemma-4-E4B-it` でモデルをローカルに提供し、即座にアクセス可能。
コーディングエージェント統合
専用プラグイン（`pip install git:github.com/basecompute/pi-basert`）をインストールして、BaseRTでローカルコーディングエージェントを実行。
対応モデル
Qwen3、Qwen3.5、Qwen3.6、Llama 3.1、Llama 3.2、Gemma 3、Gemma 4、Mistral、Phi-3、Nomic BERTなど、人気のオープンソースモデルに対応。
コミュニティサポート
テクニカルレポート、ドキュメント、GitHubリポジトリ、およびオンデバイスAIを構築するエンジニア向けのDiscordサーバーにアクセス可能。

対象ユーザー

BaseRTは、オンデバイスAIに取り組むエンジニアや開発者、特にApple Siliconハードウェア上でオープンソースモデルをローカルに実行する必要がある人向けに設計されています。AI研究者、コーディングツール開発者、クラウド依存を避けたいプライバシー重視のユーザーに最適です。また、Mac上でLLMのベンチマークや実験に興味がある愛好家やコミュニティメンバーにも適しています。

BaseRTの使い方

Apple Silicon搭載のMacでターミナルを開く。
インストールコマンドを実行：curl -LsSf https://basecompute.co/install.sh | sh
basert serve basecompute/gemma-4-E4B-it（または対応モデル）でモデルをローカルに提供。
コーディングエージェント用に、pip install git:github.com/basecompute/pi-basert でプラグインをインストールして実行。
BaseRTのウェブサイトまたはGitHubから詳細なテクニカルレポートやドキュメントにアクセス。

効果レビュー

BaseRTは、Apple Silicon向け最速のLLMランタイムという約束を果たしており、具体的なベンチマーク数値でMLXやllama.cppに対するデコードおよびプリフィルフェーズでの大幅な向上を示しています。ワンコマンドインストールと簡単なモデル提供により、複雑な設定なしでローカルAIをすぐに立ち上げたい開発者にとってアクセスしやすいツールです。コーディングエージェントとの統合は、プライベートでオフラインの開発ツールを構築する人にとって実用的な機能です。このツールは明らかにApple Silicon向けに最適化されていますが、ローカル実行とプライバシーに焦点を当てている点は、エッジAIの現在のトレンドとよく合致しています。Discord上の活発なコミュニティと利用可能なテクニカルレポートは、プロジェクトが十分にサポートされていることを示唆していますが、ベンチマーク以外の実際のユーザーフィードバックはサイト上では提供されていません。

Frequently Asked Questions

BaseRTとは何ですか？

BaseRTはApple Silicon向けに最適化された高性能LLMランタイムです。1つのコマンドでデバイスに大規模言語モデルをインストールしてローカル実行できます。

対応しているAppleデバイスは？

BaseRTはM1、M2、M3以降のチップを搭載したすべてのApple Silicon Macに対応しています。IntelベースのMacでは使用できません。

BaseRTのインストール方法を教えてください

インストールはワンコマンドで完了します。ターミナルを開き、BaseComputeの公式リポジトリから提供されるインストールスクリプトを実行するだけです。複雑な設定は不要です。

BaseRTは無料で使えますか？

はい、BaseRTは無料のオープンソースソフトウェアです。サブスクリプションやライセンス料は一切かからず、ダウンロードしてすぐに利用できます。

BaseRTで実行できるモデルは？

BaseRTはLLaMA、Mistral、Phiなど、幅広いオープンソースLLMに対応しており、Apple Silicon上でローカル推論向けに最適化されています。

BaseRTの利用にインターネット接続は必要ですか？

いいえ、初期インストールとモデルのダウンロード後は、BaseRTは完全にオフラインで動作します。プライバシーが保護され、低レイテンシーを実現します。