Apple verbietet »Nudify«-Apps im App Store

Apple hat seine App-Store-Richtlinien aktualisiert und sogenannte »Nudify«-Apps explizit verboten – also KI-Werkzeuge, die intime oder sexualisierte Bilder von Menschen ohne deren Zustimmung erzeugen. Auslöser war massive Kritik: Auf X sollen Nutzer Anfang des Jahres Grok verwendet haben, um nicht einvernehmliche, sexualisierte Deepfakes zu erstellen. Mit den neuen Vorgaben macht Apple deutlich, dass solche Anwendungen auf seiner Plattform keinen Platz haben, und schärft damit seine Haltung gegen KI-generierte nicht einvernehmliche intime Bildinhalte, oft NCII genannt. Warum das Gewicht hat: App-Stores sind für viele Verbraucher-KI-Tools zum zentralen Torwächter geworden. Ein komplettes Verbot von Nudify-Apps soll Nutzer vor Belästigung, Missbrauch und Rufschäden bewahren. Betroffene von NCII leiden oft langfristig emotional und sozial, und weil realistische KI-Bilder sich rasend schnell verbreiten, wird es immer schwerer, das Problem einzudämmen. Apples Schritt setzt zudem ein Präzedenzfall für andere Plattformen: Google, Microsoft und die sozialen Netzwerke stehen unter Druck, ähnlich klare Regeln zu formulieren. Die Durchsetzung bleibt allerdings schwierig. Entwickler können verbotene Funktionen tarnen, auf Web-Apps ausweichen oder über alternative Marktplätze verteilen. Selbst wenn eine App entfernt wird, können die zugrunde liegenden KI-Modelle anderswo weiter zugänglich sein. Plattformverbote sind also nur ein Teil der Lösung. Nötig sind auch strengere Gesetze, Unterstützung für Betroffene, Wasserzeichen, Verfahren zur Inhaltserkennung und schnellere Löschprozesse. Apples Entscheidung signalisiert, dass das Unternehmen NCII als klaren Schaden begreift und nicht als Grauzone. Nun muss der Konzern zeigen, dass sein Prüfprozess Verstöße erkennt, bevor sie die Nutzer erreichen. Vorerst senden die aktualisierten App-Store-Regeln die Botschaft, dass Einwilligung zählt – und dass KI-generierter Missbrauch nicht als gewöhnliche Unterhaltung durchgeht. Die Debatte dürfte weitergehen, je besser Bildgenerierungs-Tools werden und je weiter sie sich über immer mehr Dienste verbreiten.