Bild-KI werden längst nicht mehr nur als lustige Spielereien gesehen, sondern auch im Arbeitsalltag von Künstlern, Designern und Journalisten eingesetzt. Um klar zu kennzeichnen, dass es sich hierbei um nicht reale Aufnahmen handelt, werden Wasserzeichen eingesetzt.

Forscher der University of Maryland (UMD) haben jetzt jedoch herausgefunden, dass KI-Wasserzeichen, die entwickelt wurden, um die Authentizität von generierten Inhalten zu überprüfen, leicht zu umgehen sind. Obwohl diese Wasserzeichen für das menschliche Auge unsichtbar sind, sollen sie den Missbrauch von KI-generierten Inhalten verhindern.

Die Informatikforscher der UMD stellten fest, dass die aktuellen Methoden zur Anwendung von KI-Wasserzeichen Schwächen aufweisen. Soheil Feizi, Professor an der UMD, bestätigte gegenüber Engadget, dass die von seinem Team durchgeführten Tests zeigten, dass es derzeit keine zuverlässigen Wasserzeichenanwendungen gibt. Die Forscher konnten die vorhandenen Methoden mühelos umgehen und sogar gefälschte Embleme zu Bildern hinzufügen, die nicht von KI stammten.

Im Falle von zerstörerischen Angriffen können Kriminelle Wasserzeichen einfach als Teil des Bildes behandeln. Durch Anpassen von Helligkeit, Kontrast, Verwendung von JPEG-Komprimierung oder einfaches Drehen eines Bildes kann ein Wasserzeichen entfernt werden. Es ist jedoch wichtig zu beachten, dass diese Methoden nicht nur das Wasserzeichen beseitigen, sondern auch die Bildqualität beeinträchtigen und sichtbar verschlechtern.

Die Forschung der UMD wirft Fragen zur Effektivität der derzeitigen KI-Wasserzeichen auf und stellt die Zuverlässigkeit dieser Sicherheitsmaßnahme infrage. Unternehmen, die auf KI-Wasserzeichen setzen, um Fehlinformationen zu bekämpfen, könnten möglicherweise anfällig für Umgehungsversuche sein, wie die Forschung zeigt.