PrismML 把小型语言模型塞进高通智能眼镜

PrismML 正在把自家紧凑型语言模型扩展到搭载高通芯片的智能眼镜上。这一步折射出一个更大的趋势：开放权重 AI 直接在设备上运行，而不是送到远在别处的数据中心。通过把推理留在本地，PrismML 想榨出用户手上已有硬件的算力，从而降低延迟、减少带宽成本，也限制有多少个人数据必须离开眼镜。 对 AI 来说，智能眼镜是个难啃的平台。它的功耗和散热预算都卡得很紧，用户会长时间佩戴，还要求它对语音指令和视觉场景做出快速响应。把大模型放在云端跑，会带来延迟、消耗网络连接；而把摄像头和麦克风数据传出去，又会引发隐私担忧。小型语言模型提供的是另一种取舍：通用知识和推理深度弱一些，但响应更快、运行更可预测、隐私也更好。 PrismML 的思路正好踩在开放权重 AI 的风口上。不必每个请求都发往远端服务器，眼镜可以就地处理唤醒词、基础助手任务、物体识别提示、翻译和情境建议。高通在这里的角色很关键，它的芯片本来就是为高能效边缘 AI 设计的，NPU 和 DSP 都针对端侧推理做了优化。 如果这次合作跑通，智能眼镜有可能变得更好用，同时又不会更重、更烫。对厂商来说还能省下云成本，用户对数据的掌控也更强。但挑战依然存在：小模型必须经过精细压缩和调度，否则会拖垮电池；开发者需要工具来更新模型、管理内存，并在不同镜架上保持性能一致；隐私承诺能不能兑现，也取决于是否仍有数据被送去做云端兜底。 不过方向已经很清楚：AI 正在从纯云端服务，走向混合与本地执行。PrismML 与高通智能眼镜的这次合作，是又一个信号——下一波助手，可能就住在你脸上，而不是住在数据中心里。