Liquid AI 推 LFM2.5-Encoders，CPU 就能跑長文本推理

Liquid AI 推出全新模型系列 LFM2.5-Encoders，專為在標準 CPU 上實現快速長文本推理而設計。這項發展對 AI 的可及性來說是一大突破，因為它讓強大的語言模型能在遠比 GPU 更普及、更便宜的硬體上高效運行。 LFM2.5-Encoders 針對資源受限環境進行最佳化，非常適合缺乏專用 GPU 加速的邊緣裝置、筆記型電腦及企業伺服器。儘管在 CPU 上執行，這些模型在長文本任務上仍維持出色表現，例如處理整份文件、分析大型程式碼庫，或處理長時間對話。 Liquid AI 透過重新設計編碼器模型架構達成此目標。不同於依賴 GPU 的大規模平行處理能力，LFM2.5-Encoders 採用高效的注意力機制與最佳化記憶體管理，充分發揮 CPU 架構的優勢。結果是模型能處理數萬個 token 的上下文視窗，而不會出現明顯延遲。 這項突破具有立即的實務意義。企業無需投資昂貴的雲端 GPU 實例，就能部署 AI 驅動的文件分析、客服聊天機器人與資料擷取工具。開發者可以在不連網的情況下，在筆電上執行本機 AI 助手。預算有限的教育機構與研究實驗室，也能開始嘗試最先進的語言模型。 透過擴大 AI 的可及性，Liquid AI 正協助推動先進自然語言處理技術的普及化。LFM2.5-Encoders 代表朝向更實用、更易於部署的 AI 解決方案邁進，讓這些技術能在現有基礎設施中運作。隨著 AI 持續融入日常應用，能在 CPU 上高效運行的模型將是廣泛採用的關鍵。