业界争相应对AI失控的代币成本

AI行业正在经历一场痛苦但必要的觉醒。在经历了多年“快速推进、打破常规”的心态之后，各公司如今正争相应对与大型语言模型相关的失控成本。罪魁祸首是什么？代币账单的飙升远超最初预期，迫使战略从纯粹创新根本性地转向成本控制与可持续性。 与大型语言模型的每一次交互都会消耗代币——即模型处理的基本文本单元。虽然单次查询可能只需花费几分之一美分，但一旦规模化，这些成本会迅速累积。推出热门AI功能的公司如今面临着数百万美元的月度账单，这侵蚀了利润空间，在某些情况下甚至使整个产品线变得不可行。问题因用户经常进行长篇幅、多轮次的对话而加剧，每次对话都会消耗数千个代币。 行业的应对措施是多方面的。首先，各方争相优化模型以提高效率。量化、剪枝和蒸馏等技术正被部署，以在不牺牲太多质量的前提下降低每个代币的计算成本。其次，公司正在实施更严格的护栏和使用政策。这包括限制回复长度、设定免费查询次数上限，以及为简单任务使用更便宜、更小的模型。 第三，人们对替代架构的兴趣日益增长，例如混合专家模型，这种模型每次查询只激活一部分参数，从而大幅降低成本。从“快速推进”到“明智推进”的心态转变正在重塑AI格局。AI下一阶段的赢家未必是拥有最强大模型的公司，而是那些能够以可持续、长期运营的成本提供有用AI体验的公司。免费、无限制的AI时代即将终结，取而代之的是一种更务实、更注重成本的方法。