OpenAI 推出新工具強化內容來源驗證

OpenAI 宣布了一系列新措施，旨在強化內容來源驗證，並在 AI 生成媒體時代打擊錯誤資訊。該公司將採用基於 C2PA 標準的內容憑證，並將 Google 的 SynthID 浮水印技術整合至其產品中。此外，OpenAI 還推出了一款驗證工具，幫助使用者識別並信任 AI 生成的圖片與影片。 採用 C2PA 標準是邁向建立透明數位生態系統的重要一步。內容憑證允許創作者將元數據附加到他們的作品上，標示其製作方式與創作者身份。這使得平台與使用者更容易驗證媒體的真實性。透過整合 Google 的 SynthID，OpenAI 為 AI 生成的內容添加了隱形浮水印，即使在經過裁切或壓縮等修改後，仍可被專門工具偵測到。 這款新的驗證工具設計得易於使用，讓個人能夠檢查某張圖片或影片是否由 OpenAI 的模型生成。這項措施因應了人們對深偽技術與 AI 生成錯誤資訊日益增長的擔憂，這些技術已變得越來越精密。該工具是更廣泛產業努力的一部分，旨在建立對 AI 技術的信任，因為全球各國政府與組織都在努力應對合成媒體的影響。 這些措施不僅關乎偵測，更關乎建立一個更安全的 AI 生態系統。透過讓識別 AI 生成內容變得更容易，OpenAI 希望減少濫用的可能性，同時鼓勵負責任地使用其工具。該公司也正在與其他科技公司及標準制定機構合作，以確保這些來源驗證技術的互通性與廣泛採用。隨著 AI 生成內容變得越來越普遍，這些防護措施對於維護公眾信任與防止虛假資訊傳播至關重要。