中国製オープンモデル、サイバー攻撃能力でOpenAI最先端に迫る

AIモデルに模擬ネットワークへの侵入を試させる実験で、DeepSeekやGLMの無料の中国製モデルが、一般には公開されていないOpenAIの最先端サイバーモデルにかなり近い性能を示しました。この結果は、攻撃的なセキュリティ能力がオープンウェイトモデルの公開を通じて急速に広がっているという懸念を強めています。 オープンウェイトモデルはダウンロードして実行でき、ホスト型の商用システムに通常付きもののAPI制限や監視がありません。この開放性は研究やカスタマイズには利点がありますが、モデルの使われ方を制御するのは難しくなります。 実験では、中国製モデルに模擬ネットワークを攻撃させ、サイバー能力を試しました。その性能は、一部の攻撃的セキュリティ課題でオープンモデルが最先端レベルの技能に近づいていることを示唆しています。ただし研究者は、模擬環境は現実の侵入と同じではないと注意を促しています。テストネットワークの弱点を見つけられるモデルでも、実際の標的の複雑さ、予測不能性、運用上の制約に苦戦する可能性はあります。現実のシステムには、乱雑な設定、稼働中の防御側、法的境界、シミュレーションでは完全に再現できない結果が伴います。したがって今回の結果は、オープンモデルが高度な攻撃を端から端まで実行できる証拠ではなく、能力拡散のシグナルとして読むべきです。 そうした留保があっても、この実験はオープンウェイトAIをめぐる議論の緊急性を高めます。セキュリティチームは防御や許可されたテストのために強力なモデルへのアクセスを望み、政府やラボは悪用を心配しています。課題は、オープン研究の利点を保ちながらリスクを無視しない方法を見つけることです。サイバー能力を持つモデルがより広く利用可能になるにつれ、監視、責任ある公開の実践、明確な利用規範がますます重要になります。