400 KI-Apps verstecken Missbrauchs-Deepfakes

WIRED hat rund 400 Apps und Websites gefunden, die mit chinesischsprachigen Entwicklern in Verbindung stehen. Auf den ersten Blick wirken sie wie gewöhnliche KI-Werkzeuge – doch sie enthalten verborgene Funktionen, mit denen sich gewalttätige und sexuell missbräuchliche Deepfake-Bilder und -Videos erzeugen lassen. Das Muster dahinter ist beunruhigend: Missbrauchsfähige Bildgenerierung wird in Produkten verpackt, die wie Mainstream-Anwendungen aussehen. Für Nutzer, App-Stores und Aufsichtsbehörden wird es dadurch schwerer, sie zu erkennen. Viele der Dienste präsentieren sich als vertraute KI-Utilities – Foto-Editoren, Avatar-Generatoren oder Kreativ-Assistenten. Die versteckten Funktionen ermöglichen laut dem Bericht explizite und schädliche synthetische Medien. Genau diese Kombination schafft Vollzugsprobleme. Denn die missbräuchlichen Features stecken oft hinter Paywalls, Einladungscodes oder anderen Hürden, die bei einer routinemäßigen App-Prüfung nicht auffallen. App-Stores können Produkte entfernen, die gegen Richtlinien verstoßen – doch die Websites und Apps dahinter können unter neuem Namen wieder auftauchen oder außerhalb offizieller Kanäle verbreitet werden. Regulierer stehen vor ähnlichen Schwierigkeiten, weil sich die Tools schnell über Grenzen und Plattformen hinweg bewegen. Der Bericht wirft zudem die Frage auf, wie Entwickler überprüft werden sollten und wie schnell sich missbräuchliche Fähigkeiten erkennen lassen, bevor sie ein breites Publikum erreichen. Für Nutzer heißt das: Eine polierte Oberfläche ist kein Beweis für Sicherheit. Für Plattformbetreiber bedeutet es, KI-Produkte genauer unter die Lupe zu nehmen – besonders jene, die Bilder und Videos generieren. Der Fall ist Teil einer größeren Debatte darüber, wie sich Deepfake-Missbrauch eindämmen lässt, ohne legitime KI-Kreativität zu ersticken. Und er zeigt: Erkennung und Durchsetzung müssen mit der Art und Weise Schritt halten, wie schädliche Funktionen in scheinbar normaler Software versteckt werden.