OpenAI 透過 SynthID 讓 AI 影像偵測更簡單

為了提升 AI 生成媒體的透明度，OpenAI 宣布了兩項新措施，幫助用戶偵測一張圖片是否由其模型生成。該公司將加入開放的 C2PA（內容來源與真實性聯盟）標準，並將 Google 的 SynthID 技術整合至其產品中。 SynthID 最初由 Google DeepMind 開發，可將隱形的數位浮水印直接嵌入 AI 生成的影像中。這些浮水印人眼無法察覺，但可透過專門工具偵測，讓用戶和平台能夠驗證圖片的來源。透過採用這項技術，OpenAI 讓任何人都能更輕鬆地檢查一張圖片是否由其模型（例如 DALL-E）生成。 此外，OpenAI 對 C2PA 標準的承諾意味著，使用其工具創建的影像將攜帶可追溯其來源的加密元數據。這些元數據包含圖片生成時間和方式的資訊，提供了可驗證的監管鏈。這些措施共同建立了一個強大的框架，用於區分 AI 生成內容與人類創作的媒體。 此舉回應了人們對錯誤資訊以及 AI 在內容創作中道德使用日益增長的擔憂。隨著生成式 AI 變得更加精密，濫用的可能性——例如為虛假資訊活動製造令人信服的假圖片——也隨之增加。透過讓偵測變得更容易，OpenAI 旨在恢復信任，並確保 AI 生成內容被負責任地使用。 業界觀察家讚揚這項倡議是朝著正確方向邁出的一步，儘管有些人指出浮水印和元數據有可能被移除或篡改。儘管如此，OpenAI 同時採用 SynthID 和 C2PA 代表著對透明度的有意義承諾，可能為整個 AI 產業樹立新的標準。