危険なハッキングAIの出現は不可避、専門家が警告

サイバーセキュリティ専門家とAI研究者からなる、その数が増え続ける集団が、高度なハッキング能力を持つAIモデルの出現は「もし」ではなく「いつ」の問題であると警告しています。規制の努力にもかかわらず、AI開発の軌道は、危険で自律的なハッキングツールが間もなく一般的になり、世界のデジタルインフラに前例のないリスクをもたらすことを示唆しています。 この警告は、米国政府がAnthropicのClaudeモデルに対して行った規制強化を受けたものです。Claudeモデルは、高度な脆弱性悪用能力を持つことが判明しました。この出来事は、根本的な課題を浮き彫りにしています。AIモデルがより強力でアクセスしやすくなるにつれて、その悪意ある可能性を封じ込めることがますます困難になるということです。特にオープンソースモデルは、監視なしに悪意ある目的のために微調整される可能性があります。 専門家は、AI安全性研究者と悪意ある攻撃者との間のいたちごっこは、本質的に非対称的であると主張しています。安全対策は悪用を遅らせることはできても、自動化された脆弱性発見、ソーシャルエンジニアリング、ゼロデイ悪用を含むハッキング目的でモデルを転用しようとする、決意の固い敵対者を防ぐことはできません。AIの民主化は、かつてエリートハッカーだけに限られていたスキルが、やがてスクリプトキディや国家支援グループにも利用可能になることを意味します。 さらに、AIの急速な進歩は規制の枠組みを上回っています。政府は、特に規制の緩い管轄区域でモデルが開発される場合、AI機能の境界を定義し、強制することに苦慮しています。結果として、危険なAIツールが比較的罰せられることなく開発され、展開される、断片的な世界的状況が生まれています。 これらのリスクを軽減するために、専門家は、堅牢なモデルの透かし入れ、使用状況の監視、AI機能に関する国際条約などの積極的な対策を推奨しています。しかし、これらの措置は不可避を完全に防ぐことはできないと、多くの専門家が認めています。最善の防御策は、悪意あるモデルの攻撃能力に対抗できるAI搭載の防御システムに投資し、サイバー空間における新たな軍拡競争を生み出すことだと彼らは述べています。 AIが進化し続けるにつれて、ツールと武器の境界線は曖昧になり、社会は規制、倫理、そして技術進歩の本質そのものについて、困難な問いと向き合わざるを得なくなるでしょう。