AI 递归自我改进可能没那么快到来

AI 递归自我改进的概念——即 AI 系统在最少人工干预的情况下增强自身能力——长期以来一直是兴奋和恐惧的主题。然而，《麻省理工科技评论》的一项新分析表明，这一变革性的里程碑可能比许多科技乐观主义者预测的要遥远得多。 虽然大型语言模型 (LLM) 已经可以编写代码、生成合成数据，甚至调试自己的输出，但实现完全自主的自我改进仍然是一个巨大的挑战。文章强调，当前这一代 AI 系统在架构设计、数据整理和评估方面仍然严重依赖人类工程师。科幻小说中常常设想的“爆炸性”进步，被工程瓶颈的残酷现实所缓和。 主要障碍之一是训练流程的复杂性。即使 AI 提出了改进建议，验证该更改在没有意外副作用的情况下确实有益，也需要广泛的测试和人工监督。此外，合成数据的收益递减——AI 生成的内容可能导致模型崩溃——意味着人类创建的数据仍然必不可少。 另一个关键因素是硬件限制。自我改进的 AI 需要管理自己的计算资源，这项任务目前远远超出即使是最先进系统的能力。分析总结道，虽然 AI 将继续变得更加强大和高效，但真正递归自我改进的时间表很可能以数十年计，而非数年。 目前，该行业专注于渐进式改进，人类牢牢地处于循环之中。这种降低的预期不是失败的迹象，而是对创造真正自主智能所涉及的巨大复杂性的认识。