AI生物兵器の脅威、バイオ業界への警鐘 Anthropic・OpenAI首脳も警告

MIT Technology Reviewは、AIを使った生物兵器の脅威がバイオテクノロジー業界にとっての警鐘になるべきだと警告しています。もはや純粋に理論上の懸念ではありません。Anthropic CEOのDario Amodei氏やOpenAI CEOのSam Altman氏を含むAI分野の主要人物が、高度なモデルが悪意ある人物による危険な生物剤の設計を助ける可能性があると公に caution を唱えています。そうしたシナリオの実行は依然として難しいとしても、AIの進歩の速さを考えれば、準備のための猶予は狭いかもしれません。 記事は、バイオ企業がセキュリティを「他人の問題」として扱うことはできないと論じます。合成DNA、タンパク質設計、ラボ自動化、生物学的データを扱う企業は、強固な安全策を欠けば、ボトルネックになったり、意図せず悪用を助ける存在になったりしかねません。発注や顧客のスクリーニングの改善、不審なパターンの監視、機微なデータセットの保護、スタッフが誤用に気づけるよう訓練することが求められます。 ガバナンスも同じくらい重要です。自主的なベストプラクティスは助けになりますが、国や小規模ラボによってばらつきが出がちです。記事は、AIラボ、バイオ企業、政府、科学機関の間での協調行動を呼びかけています。リスク評価、レッドチーミング、報告に関する共通基準があれば、悪意ある主体が隙間を突くのは難しくなります。生物学的な脅威は国境を尊重しないため、一国の弱い環が世界の安全に影響し得る以上、国際協力は不可欠です。 セキュリティとオープンサイエンスの間の緊張もあります。開放性が低すぎれば有益な研究が遅れ、高すぎればリスクが生じます。目指すべきは「責任あるアクセス」です。正当な発見を可能にしつつ、危険な要求には摩擦を加えるということです。そのためには、DNA合成のスクリーニング強化や、有害な生物学的指示を拒否するよう訓練されたAIモデルといった新しい技術的手段が必要になるかもしれません。 バイオ業界は長く安全性と倫理に向き合ってきましたが、AIは潜在的な脅威の規模と速度を変えます。記事のメッセージは切実です。危機を待ってから動くのは誤りだということです。AIを使った生物学的リスクが空想から現実に移る前に、 proactive なセキュリティ、透明性のあるガバナンス、分野をまたいだ協力が必要とされています。