AI 安全只談末日風險？評論：日常傷害被忽略

MIT Technology Review 刊登的一篇評論主張，AI 安全辯論過度集中在災難性場景，對 AI 系統造成的日常傷害反而不夠重視。作者認為，科技政策中的「成功」常被定義得太窄。他們舉例，像是一個聊天機器人承諾不會鼓勵自殺，或是一個平台讓兒童更難買到芬太尼。 這些保護當然重要，但它們沒有涵蓋 AI 例行性誤導人、歧視特定群體、剝削使用者或侵蝕大眾信任的方式。這篇評論提醒，安全不只是防止罕見而戲劇化的失敗，也包括搜尋結果、推薦系統、自動化決策與客服工具中常見的失誤。這些問題更難被看見，因為它們分散在數百萬次互動裡，而且往往對最沒有能力質疑或申訴的人傷害最深。 作者希望政策制定者和企業擴大對「傷害」的定義，並用 AI 系統在日常使用中是否公平、誠實、可問責來衡量成功。這意味著不能只看模型基準測試和災難整備演練，還要看產品設計、商業誘因與使用者救濟機制。 這篇評論並沒有否定災難性風險。它說的是，只盯著極端結果，可能讓大眾暴露在較小但更頻繁、且會形塑對 AI 信任的傷害之中。對企業來說，訊息很清楚：安全工作應包含稽核、透明度、申訴機制，以及證明系統對受影響社群真的運作良好，而不是只保證「最壞情況已經想過了」。