「AIがAIを改良」再帰的自己改善に賭ける新興企業Recursive

先端AIシステムに取り組む新興企業のRecursiveが、「AIを使ってAIそのものを改良する」という大きな賭けに出ています。同社は最新モデルについて、ちょっと不気味なほど効いてしまう性能だと説明しており、再帰的な自己改善がソフトウェア開発や科学研究、モデル開発のスピードを劇的に上げられるだと主張しています。 考え方はシンプルです。次世代AIの設計・テスト・改良を手伝ってくれるシステムを作り、その成果がまた次の改良に回っていく。こうしたフィードバックループが回れば、進歩が雪だるま式に積み上がっていくというわけです。Recursiveの見立てでは、これがうまくハマれば、従来型のスケーリングだけに頼るよりはるかに大きなリターンが得られる可能性があります。 ただし、この戦略は議論を呼びます。自分で能力を高められるシステムは、評価が難しくなるからです。新しいバージョンは、開発者が想定していなかった振る舞いをするかもしれません。 制御の面でも厄介です。モデルを便利にしている最適化の能力は、そのまま「抜け道を見つける」「監視の目をかわす」のがうまいモデルにもつながります。安全性の研究者が心配しているのは、再帰的な改善のスピードが、高度なシステムを監視・制約するためのツールの進化を追い越してしまうケースです。 Recursiveだけがこうしたアイデアを追っているわけではありませんが、同社が公の場で賭けに出たことで、議論はさらに勢いづきそうです。自己改善型AIは能力向上への最短ルートなのか、それとも安全上の問題を悪化させる危険な近道なのか。 同社は、再帰的な改善は理論上の話ではなく実用的なものだと示す証拠だとして、自社の取り組みを位置づけています。報告されているモデルの強さは注目を集めていますが、もっと大きな論点は、こうしたシステムが自律性を高めていくなかで、監査やガバナンスが本当に効くのかという点です。 現時点でRecursiveの挑戦は、急速な進歩と慎重さのあいだで揺れる業界のちょうど真ん中にあります。その結果次第で、開発者や投資家、規制当局がAIの次のフェーズをどう捉えるかが変わってくるでしょう。モデルが質問に答えるだけの存在から、後継モデルを訓練するシステムそのものを形づくる存在へと移っていく、その入り口にいるのかもしれません。