LiquidAI 推 LFM2.5-24B-A2B：私有 AI 代理直接跑在裝置端

LiquidAI 釋出了 LFM2.5-24B-A2B，這是一個為了在使用者裝置上直接執行快速、私有 AI 代理而打造的新模型。發布平台是 Hugging Face，鎖定的對象是想做出有能力的代理行為、但不願把每個請求都送到雲端基礎架構的開發者。把運算留在本地，意味著更強的隱私、更低的延遲與更少的營運成本，尤其是對長時間執行或處理敏感資訊的應用而言。 這個模型也反映了 AI 開發的大方向轉變。最大的前沿模型訓練與服務成本依然高昂，但更小、更有效率的開源模型正變得意外地能幹，能跑在筆電、手機與邊緣裝置上，把 AI 帶到更靠近資料與使用者的位置。對代理工作流程來說，這種「貼近」很重要：裝置端的代理可以讀取本機檔案、管理行程、控制應用程式、自動化個人任務，卻不必把私密脈絡暴露給遠端伺服器。 LiquidAI 這次發布，瞄準的是想在雲端之外實驗代理行為的開發者。雲端推論有規模與取用最新模型的優勢，但也帶來持續性費用、網路依賴與隱私顧慮。裝置端推論則把這些取捨反過來：使用者握有更多控制權，開發者也能做出可離線運作、或在雲端連線不穩、甚至被禁止的環境中仍能使用的功能。 從名稱 LFM2.5-24B-A2B 來看，重點應是兼顧模型規模與執行效率，不過實際表現還是要看硬體、量化方式與所搭配的代理框架。關鍵問題在於：它能否在維持互動所需速度的同時，提供有用的推理與工具使用能力。若能做到，就有機會讓 AI 代理開發更普及，讓小型團隊與獨立開發者也能打造私有、本地優先的助理。這次發布也替一個觀點再添柴火：下一波 AI 不見得只跑在巨型資料中心，也可能直接跑在人們每天攜帶、使用的裝置裡。