NVIDIA加速谷歌DeepMind的DiffusionGemma，助力本地AI运行

谷歌DeepMind推出了DiffusionGemma，这是一款专为快速文本生成设计的实验性开源模型。如今，NVIDIA已介入并大幅提升其性能，使其在GeForce RTX GPU、RTX PRO平台和DGX Spark系统上运行速度显著加快。这一优化使开发者和研究人员能够在本地运行高速推理，涵盖从个人电脑到云端基础设施的各种场景。 DiffusionGemma代表了向更高效文本生成的转变，它利用基于扩散的技术，而非传统的自回归方法。通过与NVIDIA合作，谷歌DeepMind旨在让更多人能够使用无需持续联网或依赖远程服务器的强大AI工具。在NVIDIA硬件上提升的速度意味着，实时内容创作、交互式聊天机器人和快速原型开发等复杂任务在消费级设备上也能实现。 对用户而言，这意味着更低的延迟和更低的运营成本，因为本地推理消除了对昂贵云订阅的需求。NVIDIA在优化该模型方面的作用包括微调内核操作和内存管理，确保即使是入门级RTX显卡也能有效处理DiffusionGemma。此次合作凸显了一个更广泛的行业趋势：将企业级AI能力带到边缘端，在隐私和速度至关重要的场景中发挥作用。 随着AI模型日益复杂，在本地强大GPU上运行它们的能力将成为关键差异化因素。随着DiffusionGemma现已针对NVIDIA生态系统进行优化，开发者可以期待从开发到部署的无缝体验，无论他们是在构建个人助手、教育工具还是创意应用。