OpenAI 提出前沿人工智慧治理藍圖

OpenAI 發布了一份全面的政策文件，提出了一個針對前沿人工智慧系統進行民主治理的新框架。這份藍圖概述了一種聯邦式的方法，以確保先進人工智慧技術的安全性、韌性及其對國家安全的影響。 該文件指出，隨著人工智慧能力持續快速進步，主動監管的需求日益增長。OpenAI 認為，政府不應等到事故發生後才行動，而應立即建立明確的指導方針與監督機制。所提出的框架包括對最強大的人工智慧系統進行安全測試、透明度報告以及事件應對協議的要求。 該藍圖的一個關鍵要素是呼籲在人工智慧標準方面進行國際合作。OpenAI 認識到，人工智慧發展是一項全球性的事業，沒有任何單一國家能夠獨自有效監管這些技術。該文件建議設立類似於監督核能或航空安全的國際機構。 該提案還強調了民主參與人工智慧治理的重要性。OpenAI 建議，公民應有權對人工智慧技術的部署方式發表意見，特別是在這些技術影響公共服務、就業和公民自由的情況下。這包括公眾諮詢、獨立監督委員會以及問責機制。 批評者指出，作為主要的人工智慧開發商，OpenAI 在塑造有利於其商業模式的監管方面有其既得利益。然而，該公司堅稱其提案旨在造福整個社會，並且是自願接受更嚴格的審查。 這份藍圖預計將影響美國、歐盟及其他正在制定人工智慧法規的地區正在進行的政策討論。它代表了迄今為止業界最詳細的人工智慧治理提案之一，並表明主要人工智慧公司正認真對待監管問題。