AnthropicのAI開発、1年で約2倍に加速？ METR報告に研究者警戒

AI安全性研究機関のMETRが公表した新しい報告書で、AnthropicがAIを使ってより強力なAIを開発しており、そのアプローチが成果を上げていることがわかりました。報告によると、同社モデルの改善スピードは1年前と比べておよそ2倍で、減速する兆しはほとんど見られません。これは、AIがAI研究そのものの促進剤になりつつあることを示すものとして注目されています。 研究者たちは以前から「再帰的自己改善」を監視すべき境目としてきました。AIシステムがAI研究を加速させ、その効果が積み重なることで、人間による監視が難しくなる可能性があるという考え方です。ただしMETRの報告は、突然の画期的進展や制御不能なシステムを主張しているわけではありません。そうではなく、AIツールが研究者の作業を速め、そのスピードがモデル改善に表れているという「測定可能な加速」を指摘しています。 この区別は重要です。研究サイクルが速くなることと、知能が暴走して爆発的に伸びることは同じではありません。それでも安全策の計算は変わります。企業がより速く反復できるなら、評価、ガバナンス、リスク評価も同じペースで追いつく必要があります。そうでなければ、能力が監視機関の想定を上回って進むかもしれません。 この発見は、フロンティアラボ間の競争にも文脈を与えます。スピードは商業的な強みである一方、懸念の種でもあります。Anthropicにとっては、より高性能なモデルを追求しつつも安全研究への注力を強める材料になるかもしれません。政策担当者や外部研究者にとっての教訓は、AIによるAI開発支援がもはや理論上の話ではないということです。議論は「加速が起きうるか」から「すでにどれくらいの速さで起きているか」、そして「どんな安全策を伴うべきか」へと移りつつあります。