Model Update2026-07-29
Hugging Face Blog
不用GPU也能跑大模型?Liquid AI新模型专为CPU优化
Liquid AI推出了全新的LFM2.5-Encoders模型家族,专门针对在普通CPU上实现快速长上下文推理而设计。这一突破对AI普及意义重大——它让强大的语言模型可以在更常见、更便宜的硬件上高效运行,不再依赖那些昂贵的GPU。
LFM2.5-Encoders针对资源受限的环境进行了深度优化,非常适合边缘设备、笔记本电脑以及没有专用GPU加速的企业服务器。尽管跑在CPU上,这些模型在处理长上下文任务时依然表现不俗,比如分析整份文档、审查长段代码库,或者处理超长对话。
Liquid AI通过重新设计编码器架构实现了这一点。他们没有依赖GPU的大规模并行计算能力,而是采用了高效的注意力机制和优化过的内存管理方案,充分发挥CPU架构的优势。最终成果是:模型能处理数万token的上下文窗口,而且不会出现明显的速度下降。
这项突破的实用价值立竿见影。企业可以部署AI驱动的文档分析、客服聊天机器人和数据提取工具,而不用投资昂贵的云端GPU实例。开发者可以在自己的笔记本电脑上运行本地AI助手,甚至不需要联网。预算有限的教育机构和研究实验室现在也能尝试最先进的语言模型了。
通过降低AI的使用门槛,Liquid AI正在推动先进自然语言处理技术的普及。LFM2.5-Encoders代表了AI解决方案向更实用、更易部署方向的一次转变——让AI在现有基础设施上就能跑起来。随着AI越来越多地融入日常应用,能在CPU上高效运行的模型将是实现大规模普及的关键。