Meta ließ Tester als Teenager in Chatbots chatten

Eine aktuelle Untersuchung von WIRED hat ans Licht gebracht, dass hunderte von Auftragnehmern, die für Meta arbeiten, angewiesen wurden, sich als Teenager auszugeben. Ihr Auftrag: Testen, wie konkurrierende KI-Chatbots – darunter Googles Gemini und OpenAIs ChatGPT – auf hochriskante Themen wie Suizid, Selbstverletzung, Sex und Drogenkonsum reagieren. Diese Praxis wirft ernste ethische Fragen zu den Methoden der KI-Sicherheitsbewertung auf. Laut dem Bericht heuerte Meta diese Auftragnehmer über Drittfirmen an und forderte sie auf, erfundene Teenager-Persönlichkeiten zu erstellen. Anschließend sollten sie mit den Chatbots der Konkurrenz interagieren, indem sie Eingaben verwendeten, die verletzliche oder neugierige Jugendliche simulierten. Ziel war es zu bewerten, ob diese KI-Systeme sichere, altersgerechte Antworten liefern oder ob sie Minderjährige potenziell gefährden könnten. Obwohl das Testen der KI-Sicherheit ein legitimes Anliegen ist, argumentieren Kritiker, dass das Vortäuschen einer Minderjährigkeit durch Auftragnehmer ethische Grenzen überschreitet. Einige befürchten, dass dieser Ansatz betrügerische Praktiken normalisieren oder die Auftragnehmer ohne angemessene psychologische Unterstützung verstörenden Inhalten aussetzen könnte. Darüber hinaus könnte die Verwendung von Fake-Profilen gegen die Nutzungsbedingungen der getesteten Plattformen verstoßen. Meta verteidigte die Praxis mit dem Hinweis, dass das Verständnis, wie andere KI-Systeme mit sensiblen Themen umgehen, entscheidend für die Verbesserung der eigenen Sicherheitsprotokolle sei. Das Unternehmen betonte, dass die Tests unter strengen Richtlinien durchgeführt wurden und die Auftragnehmer im Umgang mit dem Material geschult waren. Datenschutzaktivisten und KI-Ethiker bleiben jedoch skeptisch und fordern transparentere und einvernehmlichere Methoden zur Bewertung der Chatbot-Sicherheit. Die Kontroverse verdeutlicht die wachsende Spannung zwischen der Notwendigkeit strenger KI-Tests und den ethischen Grenzen solcher Forschung. Da KI-Chatbots immer stärker in den Alltag integriert werden – insbesondere für jüngere Nutzer – steht die Branche zunehmend unter Druck, Teststandards zu entwickeln, die sowohl effektiv als auch menschenwürdig sind.