AI生物武器風險升高，生技業該醒醒了

MIT Technology Review警告，AI輔助生物武器的威脅應成為生技產業的警鐘。這個擔憂已不再只是理論。包括Anthropic執行長Dario Amodei與OpenAI執行長Sam Altman在內的AI領袖，都公開提醒先進模型可能協助惡意人士設計危險生物劑。即使這類情境仍難以執行，AI進展的速度意味著準備的時間窗口可能很窄。 文章主張，生技公司不能把安全當成別人的問題。從事合成DNA、蛋白質設計、實驗室自動化與生物資料的公司，若缺乏強健防護，可能成為關鍵節點，或在不知情下變成幫兇。這代表要改善訂單與客戶篩查、監測可疑模式、保護敏感資料集，並訓練員工辨識濫用行為。 治理同樣重要。自願性最佳實務有幫助，但各國與較小實驗室之間可能參差不齊。文章呼籲AI實驗室、生技公司、政府與科研機構協同行動。針對風險評估、紅隊演練與通報建立共同標準，可讓惡意行為者更難利用漏洞。國際合作有其必要，因為生物威脅不尊重國界，一個國家的弱點可能影響全球安全。 安全與開放科學之間也存在張力。開放不足會拖慢有益研究，過度開放則帶來風險。目標應是負責任的取用：讓合法探索得以進行，同時對危險請求增加阻力。這可能需要新技術工具，例如更好的DNA合成篩查，以及訓練AI模型拒絕有害生物指令。 生技業長期處理安全與倫理議題，但AI改變了潛在威脅的規模與速度。文章的訊息很急迫：等到危機爆發才行動將是錯誤。必須在AI生物風險從推測變成現實之前，採取主動安全、透明治理與跨部門合作。