YouTube und X leiten zu Nackt-Deepfake-Apps weiter

Eine beunruhigende neue Studie hat ergeben, dass große soziale Medienplattformen wie YouTube und X unbeabsichtigt Nutzer zu Websites führen, die nicht-einvernehmliche, sexuell explizite Deepfakes erstellen. Diese sogenannten 'Nudify'-Apps können schädliche Bilder für nur einen Dollar pro Stück generieren, was die Technologie erschreckend zugänglich macht. Die Forschung zeigt, dass diese Plattformen als Einfallstore dienen, über die Nutzer leicht Links und Anleitungen finden, um KI-generierte Inhalte für böswillige Zwecke zu missbrauchen. Die Ergebnisse werfen ernste ethische und rechtliche Fragen zur Verantwortung von Social-Media-Unternehmen bei der Moderation von Inhalten auf, die zu solchem Missbrauch führen. Aktivisten fordern strengere Maßnahmen gegen KI-generierte nicht-einvernehmliche Bilder und eine größere Rechenschaftspflicht für Plattformen, die solche Links hosten oder bewerben. Mit der zunehmenden Leistungsfähigkeit von KI-Tools wird die Grenze zwischen kreativer Freiheit und schädlicher Ausbeutung immer dünner – ein dringender Appell an die Regulierungsbehörden.