OpenAI、ライブのインターネットでの学習をやめると表明

OpenAIが、重大なリスクを理由に、AIモデルをライブのインターネット上で学習させるのをやめると明らかにしたと報じられています。これによりフロンティアモデルは訓練中に継続的なウェブアクセスを持たなくなり、大規模システムが新鮮な情報や時事を取り込んできた従来の手法から大きく舵を切ることになります。 この決定は、そうしたライブウェブ学習の解決策はうまくいかないとOpenAIのエンジニアが主張したとされる数週間後のことでした。より安全で信頼できるモデルをどう作るかをめぐり、社内で議論があったことをうかがわせます。 実務面では疑問も残ります。訓練中にライブのウェブから学べないとなれば、開発側は丁寧に選別したデータセットや定期的なスナップショット、代替のパイプラインを使って知識を最新に保つ必要があります。制御しやすさや再現性は高まる半面、速報ニュースや新しく生まれた言葉の反映は遅れるかもしれません。 ライセンスとプライバシーももう一つの懸念です。ウェブ上のデータには著作権で保護された素材、個人情報、そしてモデルの振る舞いを操作しようとする悪意あるコンテンツが含まれ得ます。 主な動機は安全性にあると見られます。ライブのインターネット接続は、訓練システムを毒入りのページや有害な指示、詐欺、本来取り込むべきでない個人データに晒してしまいます。継続的なウェブ学習から距離を置くことでOpenAIはそうした露出を減らせますが、実際に使うデータに対しては強力なフィルタリングと監視が引き続き必要です。 この判断は、AI開発が抱える広い緊張関係も浮き彫りにします。企業は知識が豊富で常に最新のモデルを求めますが、鮮度と安全性、法的リスク、品質管理のバランスを取らなければなりません。OpenAIがこのトレードオフをどう扱うかは今後のモデルリリースを形作り、他のラボの訓練データの扱いにも影響を与え得ます。