AI生物武器风险，给生物科技敲响警钟

MIT Technology Review 发出警告：AI 赋能生物武器的阴影，应该成为生物科技行业的一记警钟。这种担忧已经不再是纯理论。包括 Anthropic CEO Dario Amodei 和 OpenAI CEO Sam Altman 在内的多位 AI 领军人物都公开提示，先进模型可能帮助不法分子设计危险的生物制剂。即便这类情景实际操作起来仍然困难，AI 的推进速度也意味着留给准备的时间窗口可能很窄。 文章认为，生物科技公司不能把安全当成“别人的问题”。做合成 DNA、蛋白质设计、实验室自动化和生物数据的公司，如果缺乏有力防护，就可能变成关键卡点，或者在不知情中成为帮凶。这意味着要改进对订单和客户的筛查、监测可疑模式、保护敏感数据集，并培训员工识别滥用迹象。 治理同样重要。自愿性的最佳实践有帮助，但在不同国家和规模较小的实验室之间执行得参差不齐。文章呼吁 AI 实验室、生物科技公司、政府和科研机构协同行动。在风险评估、红队测试和信息上报上建立共同标准，能让恶意行为者更难钻空子。国际合作必不可少，因为生物威胁不分国界，一个国家的薄弱环节会影响全球安全。 这里还存在安全与开放科学的张力。开放太少会拖慢有益研究，开放太多则会带来风险。目标应该是“负责任的获取”：让正当的科研发现得以进行，同时对危险请求增加摩擦。这可能要靠新的技术工具，比如更好的 DNA 合成筛查，以及被训练成拒绝有害生物指令的 AI 模型。 生物科技行业长期在处理安全与伦理问题，但 AI 改变了潜在威胁的规模和速度。文章传递的信息很紧迫：等到危机发生再行动就晚了。在 AI 生物风险从猜测变成现实之前，主动的安全措施、透明的治理和跨行业协作都是必需的。