Google Earth 的 AI 深偽功能上線一天就被緊急下架

Google 在週四推出了一項 Google Earth 功能，讓使用者可以用文字指令透過 AI 編輯衛星影像，結果上線才一天就因為 AI 深偽影像的疑慮而被緊急關閉。這個工具原本是想讓使用者更容易編輯衛星圖，但很快就被拿來製造逼真卻虛假的影像。數位調查機構 Digital Digging 的 Henk van Ess 就示範了風險所在——他故意生成了「墨西哥邊境的難民」和「加薩醫院附近的炸彈坑」的影像，兩者都是完全虛構的。 這項功能迅速被下架，凸顯了科技公司在把生成式 AI 整合進真實世界平台時所面臨的挑戰。雖然這項功能原本是為了提升創意和可及性，但它也打開了全球規模假資訊的大門。衛星影像常常被用在新聞報導和災害應變上，如果能夠被竄改，對公眾信任會造成嚴重威脅。 Google 目前還沒有宣布是否會在加入更嚴格的安全措施後重新推出這項功能。不過，這起事件對其他正在探索類似 AI 編輯工具的企業來說，是個很好的警惕。創新和責任之間的平衡本來就很微妙，這個案例顯示，即使是立意良善的功能，也可能帶來非預期的後果。 隨著 AI 持續演進，制定明確的指導方針和健全的內容驗證機制，變得越來越迫切。至少 Google 這次決定緊急停用，顯示他們在發現風險時願意迅速行動，但整個產業都應該從這次事件中學到教訓，避免重蹈覆轍。