Sam Altman 登上聯合國安理會，談 AI 安全與人類掌控

OpenAI 執行長 Sam Altman 在聯合國安全理事會發表演說，主張先進人工智慧必須維持在有意義的人類掌控之下。他的發言把 AI 安全直接放上國際外交的檯面——在這裡，技術進展的速度正日益超越現有的規則與制度。 Altman 強調，全球治理必須跟上 AI 發展的腳步，呼籲建立跨國適用的協調標準、透明度與防護機制。他形容 AI 是各國與各企業共同面對的挑戰，而非彼此競爭的項目。在他看來，強大系統帶來的好處應該被廣泛取用，而風險則需要集體行動來處理。這些風險包括遭惡意行為者濫用、在高風險場域發生意外，以及難以驗證先進模型究竟能做到什麼。Altman 也指出，需要有健全的監督機制，讓系統出現意料之外的行為或造成傷害時，人類得以介入。 安理會這個場合讓訊息更有份量。AI 不再只是科技政策議題，它牽動和平與安全、經濟穩定、資訊完整性，以及國家之間的權力平衡。Altman 現身這個場合，也顯示領先的 AI 實驗室希望在各國政府討論相關規則時，能坐在談判桌旁。 與此同時，他的談話也點出矛盾。有些國家擔心，企業的自願性承諾並不足夠；另一些國家則憂心，過重的監管會拖慢創新，或讓既有業者更難被挑戰。前進的方向很可能得結合技術防護、稽核、透明度要求與國際對話。核心問題不是 AI 會不會被治理，而是怎麼治理、由誰治理。Altman 的訊息很明確：隨著系統能力愈來愈強，讓人類保有控制權、建立共同規則，會是同時管理機會與風險的關鍵。