Anfang April 2025 war bekannt geworden, dass OpenAI Bilder, die mit dem neuen KI-Modell GPT-4o erstellt wurden, mit – teils unsichtbaren – Wasserzeichen versieht. Bei dieser Kennzeichnung scheint es sich vorerst nur um einen Testlauf zu handeln, der vor allem Nutzer:innen der Gratisversion von ChatGPT betrifft.

Wie der KI-Dienstleister Rumi jetzt berichtet, dürfte OpenAI den Wasserzeichen-Test auf per ChatGPT erstellte Texte ausgeweitet haben. Dies betrifft Texte, die mit den neuen Modellen GPT-o3 und o4-mini generiert wurden. Offiziell angekündigt worden ist dies bisher nicht.

In entsprechenden von ChatGPT generierten Texten tauchen jede Menge für das menschliche Auge zunächst unsichtbare Unicode-Zeichen auf. Diese werden beim Kopieren des Textes in ein Dokument oder ein CMS übernommen.

Konkret handelt es sich um das Zeichen Narrow No-Break Space (Unicode U+202F). Das entspricht visuell dem normalen Leerzeichen. Durch die Integration solcher Zeichen könnte künftig sicherer überprüft werden, ob ein bestimmter Text von Mensch oder Maschine erstellt wurde, wie Golem schreibt.

Allerdings hat das System einen ganz entscheidenden Haken. Denn die Zeichen lassen sich – einmal entdeckt – sehr einfach wieder entfernen. Dazu benötigen Nutzer:innen lediglich einen besseren Texteditor, in dem die Zeichen sichtbar werden.

Anschließend können die Unicode-Zeichen durch die Suchen-Ersetzen-Funktion nahezu automatisiert entfernen. Etwa, wenn Nutzer:innen die von OpenAI eingefügten Zeichen durch normale Leerzeichen ersetzen (lassen).

Insofern ist klar, dass die Wasserzeichen in den Texten nur so lange funktionieren, wie das Ganze der Mehrzahl der Nutzer:innen nicht bekannt ist. Bei Rumi etwa wird spekuliert, dass OpenAI diesen Test wieder einstellt, wenn die Wasserzeichen-Injektion zu bekannt wird.

Was dagegen spricht, ist aber, dass OpenAI ähnliche Methoden der Entfernung von Wasserzeichen in den KI-generierten Bildern schon offen angesprochen hat. Die Markierung könnte etwa durch einfaches Zuschneiden oder erneutes Hochladen auf bestimmte Plattformen entfernt werden.

OpenAI erklärte hierzu, dass die Wasserzeichen zwar nicht perfekt sind. Allerdings könnten sie ein wichtiger Schritt in Richtung eines verantwortungsvollen Umgangs mit KI sein.