AIの再帰的自己改善は「思ったより速くは来ない」との分析

AIシステムが人間の介入を最小限に抑えながら自身の能力を向上させる「再帰的自己改善」の概念は、長い間、期待と恐怖の両方の対象となってきました。しかし、MITテクノロジーレビューの新たな分析は、この変革的なマイルストーンは、多くのテクノロジー楽観論者が予測するよりも遠い将来になる可能性があると示唆しています。 大規模言語モデル（LLM）はすでにコードを書いたり、合成データを生成したり、自身の出力をデバッグしたりできますが、完全に自律的な自己改善への飛躍は依然として困難な課題です。記事は、現在の世代のAIシステムは、アーキテクチャ設計、データキュレーション、評価において依然として人間のエンジニアに大きく依存していると強調しています。SFで想像されるような「爆発的な」進歩は、エンジニアリングのボトルネックという厳しい現実によって和らげられています。 主な障害の一つは、トレーニングパイプラインの複雑さです。AIが改善を提案したとしても、その変更が意図しない副作用なしに真に有益であることを検証するには、広範なテストと人間による監督が必要です。さらに、AIが生成したコンテンツがモデル崩壊を引き起こす可能性がある合成データの収穫逓減は、人間が作成したデータが引き続き不可欠であることを意味します。 もう一つの重要な要素は、ハードウェアの制約です。自己改善型AIは、自身の計算リソースを管理する必要がありますが、これは現在、最も先進的なシステムの能力をはるかに超えています。分析は、AIは引き続きより高性能で効率的になるでしょうが、真の再帰的自己改善のタイムラインは、数年ではなく数十年単位で測られる可能性が高いと結論付けています。 現時点では、業界は人間がしっかりと関与した漸進的な改善に焦点を当てています。この控えめな期待は失敗の兆候ではなく、真に自律的な知能を生み出すことに関わる計り知れない複雑さを認識したものと言えるでしょう。