Sam Altman在联合国安理会谈AI：人类必须握有控制权

OpenAI CEO Sam Altman在联合国安理会发表讲话，主张先进人工智能必须处在有意义的人类控制之下。他的发言把AI安全直接放进了国际外交的范畴——技术进展的速度，正在超越现有的规则和机构。 Altman强调，全球治理应当跟上AI发展的步伐，并呼吁建立跨国适用的统一标准、透明度和保障机制。他把AI描述为全人类共同面对的挑战，而不是单个国家或公司之间的竞争。在他看来，强大系统带来的好处应当被广泛获取，而风险则需要集体行动来应对。 这些风险包括：被恶意行为者滥用、在事关重大的场景中发生事故，以及很难核实先进模型究竟具备哪些能力。Altman还指出，需要强有力的监督机制，以便在系统出现意外行为或造成伤害时，人类能够介入。 安理会这个场合让这条信息的分量更重。AI不再只是技术政策议题，它牵涉和平与安全、经济稳定、信息完整性，以及国家之间的力量平衡。Altman的出席也释放出一个信号：各国政府在讨论这个领域的规则时，领先的AI实验室希望自己能坐在谈判桌上。 与此同时，他的表态也凸显了张力所在。一些国家担心，企业给出的自愿承诺并不足够；另一些国家则担心，过重的监管会拖慢创新，或者让现有玩家更加稳固。往前走的路，很可能是技术保障、审计、透明度要求和国际对话的组合。核心问题不是AI会不会被治理，而是怎么治理、由谁来治理。 Altman传递的信息很明确：随着系统能力不断提升，让人类保持控制、并建立共同的规则，将是同时管理机遇与危险的关键。