EU-KI-Wasserzeichen: Oft nicht robust genug

Die EU will KI-generierte Texte mit Wasserzeichen versehen, damit sie erkennbar bleiben. In der Praxis stößt genau das an eine Grenze: Die Erkennungsmarken sind fragil. IEEE Spectrum berichtet, dass die derzeitige Wasserzeichen-Technik die Regeln womöglich nicht erfüllt. Grundlage sind Tests von OpenAIs textGrain-Wasserzeichen, das im Oktober veröffentlicht wurde, um die EU-Vorgaben zu erfüllen. Die Tests zeigten, dass die Markierungen nach Bearbeitung, Umschreiben oder Kopieren oft verschwinden oder unzuverlässig werden. Für Regulierer ist das ein Problem, denn sie wollen Wasserzeichen als Instrument zur Durchsetzung nutzen. Ein Wasserzeichen soll ein erkennbares Signal in generierten Inhalten hinterlassen, muss aber den normalen Gebrauch überstehen, um nützlich zu sein. Reicht eine kurze Bearbeitung, um das Signal zu entfernen, können schlechte Akteure die Erkennung leicht umgehen. Plattformen können Inhalte dann nicht sicher als KI-generiert kennzeichnen. Das heißt nicht, dass Wasserzeichen nutzlos sind. Sie können helfen, einige unveränderte Ausgaben zu identifizieren, und Transparenzbestrebungen unterstützen. Als Allheilmittel taugen sie aber nicht. Für die Durchsetzung braucht es wohl eine Kombination aus Wasserzeichen, Herkunfts-Metadaten, Signalen auf Kontoebene, Standards zur Inhaltsauthentifizierung und menschlicher Prüfung. Die EU-Regeln sind Teil eines größeren Versuchs, KI-generiertes Material transparenter zu machen, während synthetische Texte billiger und überzeugender werden. Die Tests zeigen jedoch eine Lücke zwischen politischen Zielen und technischer Realität. Regulierer wollen verlässliche Kennzeichnungen; Forscher können nur Werkzeuge mit bekannten Grenzen liefern. Für Plattformen besteht die Herausforderung darin, nicht zu viel zu versprechen, aber trotzdem nützlichen Kontext zu bieten. Die Debatte dürfte sich verschärfen, wenn Wasserzeichen-Pflichten ausgeweitet werden und KI-Systeme Texte produzieren, die menschlichem Schreiben immer näher kommen. Die Kernfrage: Lassen sich die Methoden robust genug für Gesetz und Plattformrichtlinien machen – oder müssen die Erwartungen geändert werden?