DeepMind 執行長呼籲成立獨立 AI 標準機構，比照 FINRA 監管

DeepMind 執行長 Demis Hassabis 近日提出一項大膽提案，主張成立一個獨立的標準機構來監管前沿人工智慧。在近期訪談中，Hassabis 建議這個新組織應仿效美國金融業監管局（FINRA）的模式運作。 這個擬議中的機構將負責在前沿 AI 模型對外發布前進行測試，制定安全部署的最佳實務，建立效能與安全基準，並在發生違規時追究公司責任。Hassabis 認為，考量到 AI 驚人的發展速度，目前由業者自願承諾與內部安全審查所構成的零散監管方式已遠遠不足。 「我們需要一個獨立、由專家主導的組織，能夠客觀地評估這些模型，」Hassabis 表示。「風險實在太高，不能把安全問題完全交給個別公司處理。」該機構將有權進行稽核、要求修改模型，甚至在安全標準未達標時暫停發布。 這項呼籲正值各界對 AI 安全的擔憂日益升高之際。近期發生的越獄模型、偏見輸出以及潛在濫用事件，都凸顯了建立強健治理架構的必要性。Hassabis 的提案之所以引人注目，是因為它來自業界內部，顯示連 AI 領導者都承認自我監管的局限性。 雖然這個想法獲得部分研究人員與政策制定者的支持，但也引發了執行面的問題：誰來資助這樣的機構？它要如何跟上快速演進的技術？企業是否會自願配合？儘管挑戰重重，Hassabis 的提案仍代表朝向更有結構、更負責任的 AI 生態系統邁出了重要一步。