Meta外包人員假扮青少年，測試對手聊天機器人安全性

《WIRED》雜誌最近一項調查揭露，Meta 僱用了數百名外包人員，並指示他們假扮成青少年，以測試競爭對手的 AI 聊天機器人——包括 Google 的 Gemini 和 OpenAI 的 ChatGPT——如何回應自殺、自殘、性行為與藥物使用等高風險話題。這項做法引發了外界對於 AI 安全測試方法是否符合道德的嚴肅質疑。 根據報導，Meta 透過第三方公司僱用這些外包人員，要求他們建立虛假的青少年角色。接著，這些人員被指示使用模擬脆弱或好奇青少年的提示詞，與競爭對手的聊天機器人進行互動。目標是評估這些 AI 系統是否提供安全、適合年齡的回應，或者是否可能對未成年用戶造成傷害。 雖然測試 AI 安全性是合理的考量，但批評者認為，要求外包人員冒充未成年人的做法跨越了道德界線。有些人擔心，這種做法可能使欺騙性行為常態化，或讓外包人員在缺乏足夠心理支持的情況下接觸到令人不安的內容。此外，使用虛假身份可能違反被測試平台的服務條款。 Meta 為此做法辯護，表示了解其他 AI 系統如何處理敏感話題，對於改善自身安全機制至關重要。該公司強調，測試是在嚴格的指導方針下進行，且外包人員已接受過處理相關內容的訓練。然而，隱私倡導者和 AI 倫理學家仍持懷疑態度，呼籲採用更透明且基於同意的聊天機器人安全評估方法。 此爭議凸顯了在進行嚴謹 AI 測試與維護研究道德界線之間日益緊張的關係。隨著 AI 聊天機器人越來越融入日常生活——尤其是對年輕用戶而言——業界面臨越來越大的壓力，必須制定既有效又尊重人類尊嚴的測試標準。