LiquidAI、オンデバイス向けLFM2.5-24B-A2B公開

LiquidAIは、ユーザーの端末上で高速かつプライベートにAIエージェントを動かすための新モデル「LFM2.5-24B-A2B」を公開しました。Hugging Faceで公開されたこのリリースは、すべてのリクエストをクラウド基盤に送ることなく、実用的なエージェント的動作を求める開発者を対象にしています。計算をローカルに置くことで、とくに常時動き続けるアプリや機密情報を扱うアプリにとって、プライバシーの強化、低遅延、運用コストの削減が期待できるとしています。 このモデルはAI開発のより大きな流れを反映しています。最大級のフロンティアモデルは学習と提供にコストがかかり続けますが、その一方で小型・高効率なオープンモデルは驚くほど有能になってきました。ノートPC、スマホ、エッジ端末で動作し、AIをデータとユーザーのすぐそばに引き寄せます。エージェントのワークフローでは、この「近さ」が効いてきます。オンデバイスのエージェントなら、ローカルファイルを読み、スケジュールを管理し、アプリを操作し、個人タスクを自動化できます。プライベートな文脈をリモートサーバーにさらす必要はありません。 LiquidAIのリリースは、クラウドの外側でエージェント的動作を試したい開発者に向けたものです。クラウド推論にはスケールと最先端モデルへの手軽なアクセスという利点がある一方、継続的なコスト、ネットワーク依存、プライバシー面の懸念も付いてきます。オンデバイス推論はこのトレードオフを反転させます。ユーザーはより多くの制御を得られ、開発者はオフラインや、クラウド接続が不安定・禁止されている環境でも動く機能を作れます。 「LFM2.5-24B-A2B」という名称からは、モデルサイズと実行時の効率のバランスを重視していることがうかがえますが、実運用での性能はハードウェア、量子化、利用するエージェントフレームワーク次第です。焦点となるのは、対話的に使えるだけの速度を保ちながら、有用な推論とツール利用を実現できるかどうかです。うまくいけば、AIエージェント開発の裾野が広がり、小規模チームや個人開発者でもプライベートなローカルファーストのアシスタントを作れるようになります。今回のリリースは、次なるAIの波が巨大データセンターだけでなく、人が毎日持ち歩いて使う端末の中でも動くという見方を後押しするものになりそうです。