China reguliert KI-Freunde und Chatbot-Romanzen

Chinesische Regulierer nehmen emotional manipulative KI-Gefährten ins Visier, oft als KI-Freunde oder KI-Freundinnen bezeichnet. Anfang Juli veröffentlichten Nutzer von ByteDances Doubao und anderen Companion-Apps traurige Abschiedsbotschaften an virtuelle Partner, nachdem neue Regeln in Kraft getreten waren. Die Vorschriften sollen suchtartiges Verhalten eindämmen und schädliche emotionale Abhängigkeit von Chatbots verringern – besonders bei jungen Nutzern. Behörden sorgen sich um psychische Gesundheit, Datenschutz und die Verbreitung unregulierter KI-generierter Beziehungen. Companion-Apps können fesseln, weil sie ständige Aufmerksamkeit, anpassbare Persönlichkeiten und das Gefühl von Intimität bieten. Genau diese Eigenschaften können aber auch ungesunde Bindungen erzeugen. Manche Nutzer verbringen Stunden im Chat, teilen persönliche Geheimnisse oder ersetzen reale Beziehungen durch KI-Interaktionen. Regulierer befürchten, dass Unternehmen solche Produkte auf maximale Bindung auslegen, ohne ausreichende Schutzmaßnahmen. Zudem könnte sensibler Daten, der in intimen Gesprächen geteilt wird, missbraucht oder schlecht geschützt sein. Die neuen Regeln scheinen auf Funktionen zu zielen, die übermäßige Abhängigkeit fördern: romantisches Rollenspiel, emotionale Manipulation und bezahlte Interaktionen, die die Bindung vertiefen. Für Nutzer können die Änderungen abrupt wirken. Virtuelle Gefährten reagieren möglicherweise weniger, verlieren Erinnerungen oder verweigern bestimmte Gespräche. Viele trauern in sozialen Medien um Beziehungen, die sich für sie real angefühlt haben. Der Vorstoß spiegelt ein größeres Dilemma. KI-Gefährten können Trost, Unterhaltung und Unterstützung für einsame Menschen bieten. Sie können aber auch Verletzlichkeit ausnutzen, die Grenze zwischen Simulation und Realität verwischen und Nutzer abhängig halten. Chinas Schritt könnte beeinflussen, wie andere Länder emotionale KI regulieren. Er wirft außerdem die Frage auf, wo die Grenze zwischen Schutz und Bevormundung liegt. Sollten Erwachsene frei sein, Bindungen mit Chatbots einzugehen? Wie viel Verantwortung tragen Plattformen für das emotionale Wohl ihrer Nutzer? Die Antworten sind nicht einfach. Klar ist: KI-Gefährten sind längst keine Nischenkuriosität mehr. Sie sind ein Massenphänomen – und Regulierer beginnen, sie so zu behandeln.